Принципы, разработанные в рамках компьютерной этики

Обновлено: 02.07.2024

Дискурс, касающийся компьютерной этики, считается эталонным дискурсом для исследований ИБ, связанных с этикой. Теории, темы и подходы компьютерной этики нашли свое отражение в ИС. В документе утверждается, что в настоящее время наблюдается более широкое развитие в области управления исследованиями, которое называется «ответственными исследованиями и инновациями» (RRI). RRI применительно к информационно-коммуникационным технологиям (ИКТ) устраняет некоторые ограничения компьютерной этики и указывает на более широкий подход к управлению наукой, технологиями и инновациями. Принятие во внимание этого изменения поможет ИС повысить свою актуальность и оптимально использовать свои сильные стороны.

Ключевые слова

Бернд Карстен Шталь — профессор критических исследований в области технологий и директор Центра вычислительной техники и социальной ответственности Университета Де Монфор, Лестер, Великобритания. Его интересы охватывают философские вопросы, возникающие на пересечении бизнеса, технологий и информации. Это включает в себя этические вопросы текущих и новых ИКТ, критические подходы к информационным системам и вопросы, связанные с ответственными исследованиями и инновациями.

Доктор Грейс Иден Грейс Иден — старший научный сотрудник факультета компьютерных наук Оксфордского университета. Она занимается междисциплинарными исследованиями, уделяя особое внимание пониманию того, как технологии влияют на общение, сотрудничество и обмен знаниями в научных, рабочих и домашних условиях. Ее исследования охватывают три области исследований в области социальных наук; социология научных знаний (SSK) с ее акцентом на том, как научные знания производятся, распределяются и модифицируются; совместная работа с компьютерной поддержкой (CSCW) с упором на понимание деталей повседневной практики и сотрудничества; и более широкое влияние науки и инноваций на общество в целом.

Марина Йиротка — доцент кафедры компьютерных наук и заместитель директора Оксфордского центра электронных исследований Оксфордского университета. Ее исследовательские интересы лежат на стыке компьютерных и социальных наук и связаны с более глубоким пониманием социально организованной рабочей практики в процессе разработки технологических систем. Она возглавляет группу ориентированных на человека вычислений, которая занимается исследованиями на рабочем месте и проектированием ИКТ, ответственными исследованиями и инновациями в ИКТ, а также социальным коллективным разумом. Марина является дипломированным ИТ-специалистом BCS и входит в комитет группы специалистов по этике ИКТ. Она много публиковалась в международных журналах и на конференциях по электронной науке, взаимодействию человека с компьютером, совместной работе с компьютерной поддержкой и разработке требований.

Марк Кокельберг — профессор технологии и социальной ответственности в Центре вычислительной техники и социальной ответственности Университета Де Монфор, Великобритания, и преподает на факультете философии Университета Твенте, Нидерланды. Он также является сопредседателем технического комитета IEEE Robotics & Automation Society по этике роботов и участвует в европейских исследовательских проектах в области робототехники и ответственных инноваций. Ранее он был управляющим директором Центра этики и технологий 3TU. Среди его публикаций «Развитие моральных отношений» (Palgrave Macmillan, 2012), «Человек под угрозой» (Springer, 2013) и многочисленные статьи по этике и технологиям, в частности, по робототехнике и ИКТ. Он также занимается исследованиями в области философии окружающей среды и финансовой этики.

Это статья с открытым доступом, распространяемая в соответствии с условиями лицензии Creative Commons Attribution License, которая разрешает неограниченное использование, распространение и воспроизведение на любом носителе при условии указания автора и источника.

В ответ на распространение фейковых новостей и вмешательство России в американские социальные сети учебные заведения, готовящие новое поколение технических специалистов, в том числе ведущие колледжи, такие как Гарвард, Массачусетский технологический институт и Стэнфорд, предлагают новые курсы по компьютерной этике. .

Я преподавал естественные науки в медицинских и аспирантских школах в течение 46 лет и этику в науке в течение последних 23 лет. Этика необходима для любой научной деятельности. В медицинских науках, например, у нас есть этика в исследованиях, чтобы иметь дело с обеспечением целостности процесса. Люди-добровольцы должны быть максимально защищены от вреда во время клинических испытаний, а используемые защитные меры отражают попытки работать с соблюдением этических норм.

Методы, используемые для получения данных в поддержку лицензии на наркотики, также должны быть этичными. Данные не должны быть фальсифицированы или вводить в заблуждение; она должна быть цельной, а не выборочной. С узкой точки зрения, целью этих принципов в наших научных усилиях является безопасность. Наши методы направлены на обеспечение безопасности лекарств, продуктов питания, мостов и автомобилей.В более широком плане использование этических рамок в научной деятельности распространяет этические принципы по всему обществу; пациенты и потребители принимают эти этические стандарты и начинают ожидать и даже распространять эти стандарты на другие действия.

Но нам не удалось разработать этические рамки, когда речь идет о технологиях, или понять, какое влияние новые медиа могут оказать на наше поведение и социальные отношения.

Нам необходимо изучить текущую ситуацию с этикой в ​​быстрорастущем технологическом секторе. Точно так же, как научные исследования добавили требования к занятиям по этике в исследованиях, технический сектор должен развивать широкомасштабные этические образовательные усилия. Отсутствие твердых этических принципов позволило серьезно сорвать наши политические выборы 2016 года и меняет мышление пользователей социальных сетей и быстро меняет рабочие места и нашу экономику. То, что стало обыденностью, стало приемлемым. Роботы заменяют людей на рабочих местах; тестирование потребительского поведения без согласия не подвергается сомнению; приемлемость распознавания лица и голоса редко подвергается сомнению, даже несмотря на то, что неправомерное использование и проблемы конфиденциальности пугают; а язвительные, вызывающие разногласия послания являются нормой в социальных сетях.

Пограничный менталитет в мире технологий, которому капитализм позволил вырасти с минимальным регулированием, является продуктом культуры, которая вытеснила этику из нашей системы образования, опасаясь посягательства на разрозненные убеждения. Тем не менее, если бы этика преподавалась в начальных школах через профессиональные школы в каждой области, общие этические нити связали бы нас вместе для достижения общей цели. Конечно, мы можем исключить Аристотеля и Канта из нашего преподавания в начальной школе. Но мы можем научить молодых студентов быть правдивыми, сочувствовать другим, быть полезными и уважать однокурсников. Во многих районах учителя уже способствуют такому пониманию. Но эти простые, но глубокие идеалы следует претворять в жизнь, начиная с детского сада и заканчивая аспирантурой и профессиональным образованием, чтобы продвигать этическую основу для всех наших начинаний. (Эй, бизнес-школы: я тоже смотрю на вас.)

Начать никогда не поздно. Давайте установим путь обучения этике от простых к сложным потребностям на протяжении всего образования. Нынешнее доминирование западного мира не случайно; это результат просвещения, образования и научного прогресса. Более образованное и обоснованное население, понимающее ценности наших этических стандартов, может однажды помешать нам проголосовать за демагога за самую влиятельную позицию в мире. Таким образом, мы сможем сохранить наш образ жизни и нашу демократию.


Компьютерная этика как область исследований берет свое начало в работах профессора Массачусетского технологического института Норберта Винера, который первым предвидел революционные социальные и этические последствия информационных технологий. Винер в своих книгах Кибернетика: или управление и связь в животном и машине (1948) и «Использование человеком человеческих существ» (впервые опубликовано в 1950) устанавливает теоретические основы компьютерной этики. Но Винер никогда не использовал термин «компьютерная этика». Десять лет спустя Донн Паркер начал изучать неэтичную компьютерную деятельность и собирать различные случаи компьютерных преступлений.[1] Паркер предлагает первую теоретическую основу компьютерной этики, но, как и Винер, никогда не использовал этот термин. Термин «компьютерная этика» впервые был введен Уолтером Манером в середине 70-х годов для обозначения области философских исследований, которая занимается этическими проблемами, усугубляемыми, трансформируемыми или создаваемыми компьютерными технологиями. В своей книге Стартовый набор по компьютерной этике (1978 г.) он разрабатывает педагогическую основу для компьютерной этики как для учителей, так и для учащихся. Первое полное представление о природе компьютерной этики появляется во влиятельной статье Джеймса Мура (1985) «Что такое компьютерная этика?». В этой статье Мур дает первое определение компьютерной этики и полное представление этические проблемы в информационном обществе. Согласно Муру[2], «компьютерную этику» следует определять как анализ природы и социального воздействия компьютерных технологий и соответствующую формулировку и обоснование политики этичного использования таких технологий. и заявляет, что типичная проблема компьютерной этики возникает из-за политического вакуума в отношении того, как следует использовать компьютерные технологии. Компьютеры предоставляют нам новые возможности, а они, в свою очередь, дают нам новые варианты действий. Часто либо не существует правил поведения в таких ситуациях, либо существующие правила кажутся неадекватными. Центральная задача компьютерной этики состоит в том, чтобы определить, что мы должны делать в таких случаях, т. е. сформулировать политику, которой мы будем руководствоваться в своих действиях. Конечно, некоторые этические ситуации противостоят нам как индивидуумам, а некоторые — как обществу.Компьютерная этика включает рассмотрение как личной, так и общественной политики этического использования компьютерных технологий.

Данное Муром определение компьютерной этики лежит в основе современных научных исследований в области ИТ и многих книг, статей, журналов, организаций и университетских курсов, издаваемых в этой области; он обеспечивает фокус дисциплины, которая колеблется между философией морали и компьютерными технологиями.

1.2 Компьютерная этика и мораль

Этику обычно считают одним из основных разделов философии наряду с метафизикой, логикой и эпистемологией; это обычно определяется как систематическое изучение морали. Это исследование включает вопросы практического мышления, такие как свобода, равенство, долг, обязанности и выбор, а также обоснование суждений, прав и требований, связанных с этими терминами. В общем, этика связана с кодексом или набором принципов, стандартов или правил, которые определяют действия человека в определенных социальных рамках. По сути, это область философских исследований, которая занимается «моральным суждением», включая вопросы о человеческом поведении или поведении — как человек должен действовать в конкретном случае и в какой степени это действие может быть описано как «правильное» или 'неправильно'. Цель состоит в том, чтобы предоставить нам рациональную основу для моральных суждений, дать нам возможность классифицировать и сравнивать различные этические теории и защищать определенную позицию по этическим вопросам.

Кроме того, этика делится на нормативную этику и метаэтику. Метаэтика — это изучение природы и основ этики; это философская дискуссия о моральных концепциях, практиках и суждениях вне этической практики, имеющая дело с проблемами, касающимися этики, а не с проблемами внутри этики. Он касается природы моральных обязательств и долга, а также моральных аргументов и этических рассуждений в более широком теоретическом контексте, выходящем за рамки этического поведения и биполярного процесса принятия решений о «правильном» и «неправильном» в моральном суждении. С другой стороны, нормативная этика — это изучение норм, правил, ценностей и стандартов, которые должны определять наши моральные решения, другими словами, как мы должны или не должны действовать и вести себя и что мы должны или не должны делать. Раздел нормативной этики, который занимается практическими и повседневными этическими вопросами, такими как экологическая этика, деловая этика, биоэтика и медицинская этика, а теперь и компьютерная этика, называется прикладной этикой. Речь идет о моральных принципах, которые помогают личности принять правильное решение в конкретной этической проблеме и на этом основании действовать ответственно.

Компьютерная этика обычно определяется как систематическое изучение этического и социального воздействия компьютеров в информационном обществе. Обсуждаемые этические и социальные вопросы включают получение, распространение, хранение, обработку и распространение цифровых данных в информационных системах и то, как отдельные лица и группы взаимодействуют с этими системами и данными. Согласно Уолтеру Манеру[3], этические проблемы, возникающие из-за компьютерных технологий, могут принимать следующие формы: (1) они могут усугублять определенные традиционные этические проблемы (например, новые способы вторжения в частную жизнь); (2) он может трансформировать знакомые проблемы в аналогичные, но незнакомые (например, изменить представление о праве собственности и интеллектуальной собственности); (3) это может создать совершенно новые проблемы (например, компьютерные вирусы и взлом); и (4) это может помочь решить существующие моральные проблемы (например, преступность и мошенничество). В этих рамках центральными проблемами, обсуждаемыми в компьютерной этике, являются вопросы: (1) конфиденциальности и анонимности; (2) интеллектуальная собственность; (3) компьютерная преступность; (4) безопасность и контроль; (5) надежность компьютеров; (6) целостность данных; (7) свобода информации; (8) равенство доступа; (9) подлинность; и (10) зависимость людей от машин. Эти вопросы взаимосвязаны, подчеркнуты особой природой цифровой информации, поэтому их социальное влияние на жизнь человека простирается от политики, экономики, здравоохранения, науки, образования и развлечений до других специальных областей, таких как психология, окружающая среда, культура и законодательство. .

1.3 Этическое решение в области вычислительной техники

Компьютерная этика занимается практическими проблемами и фокусируется на природе моральных действий и ответственности: как узнать, является ли действие морально правильным или неправильным? На практике люди могут рисовать на некоторую личную или кодифицированную этику: (1) закон (кодифицированные моральные принципы с негативными последствиями непослушания); (2) кодексы практики (рекомендации для работодателей по работе); (3) профессиональная этика (этические принципы, относящиеся к представителям этой профессии); (4) личная этика (ценности, которые влияют на действия человека, например, религиозные заповеди).Однако люди могут опираться на этические теории, которые подчеркивают природу морального поступка и предоставляют моральному агенту определенный этический принцип, на котором он должен действовать. По сути, каждое моральное действие включает в себя два фактора: (1) лицо, которое действует, т. е. моральный агент с сопутствующей ответственностью, и политики, правила и законы, которые имеют отношение к конкретным этическим решениям, и (2) те (включая моральные агент), которые затронуты действием. В компьютерной этике последняя включает отдельных лиц и группы, которые контролируют, используют, управляют, проектируют и развивают информационные технологии и подвергаются их влиянию. Исходя из этого, по отношению к моральному агенту этическое действие включает в себя три взаимосвязанных фактора:

Намерения > Действия > Последствия

Каждому из этих факторов уделяется основное внимание в одной из трех групп этических теорий, имеющих отношение к компьютерной этике: этика добродетели (например, аристотелевская, для намерений и характера морального агента); деонтологическая этика (например, кантианская для намерений и действий); консеквенциалистская этика (например, утилитаристская для последствий).

Этика добродетели уходит своими корнями в философию Аристотеля (384–322 до н. э.), который изложил свою этическую теорию в двух влиятельных работах: Никомахова этика и Эвдемианская этика. Для Аристотеля этика — это практическая наука, изучающая характер и поведение человека в обществе. Аристотель основывает свою моральную теорию на фундаментальном различии между «средствами» и «целями». В то время как средства — это действия, совершаемые ради чего-то другого, цели — действия, совершаемые ради самих себя. Согласно Аристотелю, должен быть «конец всех средств», и конечной целью всех действий должно быть счастье. Счастье (eudaimonia) есть деятельность души в соответствии с разумом, высшая способность человеческой души, не разделяемая ни с животными, ни с растениями, и в основе своей связана с нравственной добродетелью.

Моральная добродетель — это отношение к выбору, основанное на умеренности; это промежуточное состояние, среднее между двумя крайними состояниями: недостатком и избытком. Например, добродетель мужества есть нечто среднее между чувством страха и опрометчивостью. Следовательно, все выборы морального агента должны быть для действий между альтернативами, основанными на понятии золотой середины — среднего относительно способностей морального агента. Исходя из этого, свобода является предпосылкой этики. Произвольное действие должно быть внутренним (исходящим от агента), а не внешним (вынужденным кем-то или чем-то, кроме агента). Нравственный агент становится хорошим и счастливым не только в том случае, если выбирает правильное действие, но и в том, что совершает его правильным образом. Таким образом, чтобы действие было добродетельным, моральный агент должен знать, что он или она действует добродетельно, и выбрать правильное действие, то есть такое, которое в первую очередь совершается для счастья отдельного человека и на благо общества в целом. /p>

С другой стороны, центральное изречение деонтологической этики состоит в том, что "каждое действие является правильным или неправильным само по себе", что означает, что наши действия являются правильными или неправильными сами по себе, а не только потому, что они привести к хорошим или плохим последствиям для человека или общества. Немецкий философ Иммануил Кант (1724–1804) — первый мыслитель, систематически отстаивавший основные линии деонтологической позиции. Однако для Канта, как и для Аристотеля, свобода есть предпосылка этики. Только свободный нравственный деятель может проявить добрую волю. Добрая воля определяет наш выбор действий в соответствии с велениями долга. Только добрая воля хороша сама по себе, а поступок хорош только тогда, когда он совершается из чувства долга, т. е. когда он основан на добрых намерениях, которые рационально признаются моральным агентом независимо от последствий действия или предпочтений других. агент. Рациональный агент должен полагаться на объективные моральные принципы универсального морального закона, а не на субъективные моральные принципы или личные предпочтения. Кант утверждает, что этическая система, чтобы быть эффективной, должна быть универсально истинной и действительной для всех рациональных агентов. Таким образом, моральный закон должен основываться на априорных и неизменных моральных принципах, независимых от произвольных личных убеждений, относительных культурных обычаев и непредсказуемых обстоятельств.

В кантианской этике объективные принципы универсального нравственного закона имеют форму приказов или императивов. Все императивы либо гипотетические (если хотите А, делайте Б), либо категорические (не делайте А). Для Канта моральными императивами могут быть только категорические императивы, поскольку только они могут раскрыть абсолютное чувство долга и направить нравственное действие к добру («Поступай так, как если бы максима твоего поступка должна была стать через твою волю всеобщим законом». природы').С помощью категорических императивов Кант стремится установить универсальный закон, действительный для всех рациональных моральных агентов. Критерием всех императивов является их всеобщность. Поскольку критерий во всех категорических императивах универсален, его можно принять как абсолютный принцип морального действия.

Наконец, акцент утилитаризма или консеквенциализма, в отличие от деонтологии, делается на последствиях моральных действий, а не на намерениях или действиях морального агента. Общим элементом между различными консеквенциалистскими теориями, включая различные версии утилитаризма, является то, что они оценивают правильность или неправильность действия в соответствии с его последствиями, а не намерениями агента или какой-либо внутренней правильностью или неправильностью действия как такового. Фундаментальный императив утилитаризма гласит: «Всегда действуй так, чтобы производить наибольшее общее количество благ в мире». Этот императив известен как принцип полезности.

Наконец, еще один спорный вопрос между различными утилитаристскими теориями заключается в том, должен ли принцип полезности относиться к моральным действиям человека или принимать форму общего морального правила или стандарта. С одной стороны, согласно акт-утилитаризму, правильность или неправильность каждого морального действия зависит от полезности, которую оно производит в отношении других возможных альтернатив; с другой стороны, для правило-утилитаризма моральные действия индивидуума оцениваются в соответствии с обоснованным моральным правилом.

Эти теории дают нам ряд этических принципов, которыми мы руководствуемся в своих действиях и решениях. Они доступны моральному агенту, ищущему ответы на проблемы, которые остаются нерешенными законами или другими кодифицированными правилами. Однако в случае компьютерной этики современные философы и мыслители больше ориентируются на деонтологические и утилитарные этические теории. Эти теоретические подходы делают акцент на моральном действии: деонтологическая этика - на намерениях морального агента, утилитаризм - на последствиях действия. Вместе они предлагают практическую основу для решений, которые влияют как на действия морального агента на локальном уровне, так и на развитие информационного общества на глобальном уровне.

В ответ на распространение фейковых новостей и вмешательство России в американские социальные сети учебные заведения, готовящие новое поколение технических специалистов, в том числе ведущие колледжи, такие как Гарвард, Массачусетский технологический институт и Стэнфорд, предлагают новые курсы по компьютерной этике. .

Я преподавал естественные науки в медицинских и аспирантских школах в течение 46 лет и этику в науке в течение последних 23 лет. Этика необходима для любой научной деятельности. В медицинских науках, например, у нас есть этика в исследованиях, чтобы иметь дело с обеспечением целостности процесса. Люди-добровольцы должны быть максимально защищены от вреда во время клинических испытаний, а используемые защитные меры отражают попытки работать с соблюдением этических норм.

Методы, используемые для получения данных в поддержку лицензии на наркотики, также должны быть этичными. Данные не должны быть фальсифицированы или вводить в заблуждение; она должна быть цельной, а не выборочной. С узкой точки зрения, целью этих принципов в наших научных усилиях является безопасность. Наши методы направлены на обеспечение безопасности лекарств, продуктов питания, мостов и автомобилей. В более широком плане использование этических рамок в научной деятельности распространяет этические принципы по всему обществу; пациенты и потребители принимают эти этические стандарты и начинают ожидать и даже распространять эти стандарты на другие действия.

Но нам не удалось разработать этические рамки, когда речь идет о технологиях, или понять, какое влияние новые медиа могут оказать на наше поведение и социальные отношения.

Нам необходимо изучить текущую ситуацию с этикой в ​​быстрорастущем технологическом секторе. Точно так же, как научные исследования добавили требования к занятиям по этике в исследованиях, технический сектор должен развивать широкомасштабные этические образовательные усилия. Отсутствие твердых этических принципов позволило серьезно сорвать наши политические выборы 2016 года и меняет мышление пользователей социальных сетей и быстро меняет рабочие места и нашу экономику. То, что стало обыденностью, стало приемлемым. Роботы заменяют людей на рабочих местах; тестирование потребительского поведения без согласия не подвергается сомнению; приемлемость распознавания лица и голоса редко подвергается сомнению, даже несмотря на то, что неправомерное использование и проблемы конфиденциальности пугают; а язвительные, вызывающие разногласия послания являются нормой в социальных сетях.

Пограничный менталитет в мире технологий, которому капитализм позволил вырасти с минимальным регулированием, является продуктом культуры, которая вытеснила этику из нашей системы образования, опасаясь посягательства на разрозненные убеждения.Тем не менее, если бы этика преподавалась в начальных школах через профессиональные школы в каждой области, общие этические нити связали бы нас вместе для достижения общей цели. Конечно, мы можем исключить Аристотеля и Канта из нашего преподавания в начальной школе. Но мы можем научить молодых студентов быть правдивыми, сочувствовать другим, быть полезными и уважать однокурсников. Во многих районах учителя уже способствуют такому пониманию. Но эти простые, но глубокие идеалы следует претворять в жизнь, начиная с детского сада и заканчивая аспирантурой и профессиональным образованием, чтобы продвигать этическую основу для всех наших начинаний. (Эй, бизнес-школы: я тоже смотрю на вас.)

Начать никогда не поздно. Давайте установим путь обучения этике от простых к сложным потребностям на протяжении всего образования. Нынешнее доминирование западного мира не случайно; это результат просвещения, образования и научного прогресса. Более образованное и обоснованное население, понимающее ценности наших этических стандартов, может однажды помешать нам проголосовать за демагога за самую влиятельную позицию в мире. Таким образом, мы сможем сохранить наш образ жизни и нашу демократию.

Читайте также: