Какие решения может принимать компьютер

Обновлено: 30.06.2024

В течение десятилетий научная фантастика исследовала наше недоверие к компьютерам. Примеров множество: HAL в 2001 году; Proteus в Demon Seed и компьютеры Defense Network в The Terminator, всего три. Таким образом, было бы легко представить, что компьютерная этика была поджанром научной фантастики, а не областью серьезного философского исследования.

Общим для этих и многих других научно-фантастических трактовок вычислений является то, что компьютеры обладают разумом. У компьютеров в этих историях есть система ценностей, определяющая их способность к свободному действию. Мы находим эти рассказы сильными, потому что изображаемые системы ценностей отражают нашу собственную. Компьютеру часто отводится роль доминирующей сущности, которая сводит на нет права других в погоне за своими. Таким образом, во многих случаях НФ делает реальные и обоснованные выводы не о компьютерах, а о человечности и нашей парадоксальной способности к бесчеловечности.

Но чтобы увидеть актуальность и действительно необходимость компьютерной этики сегодня, нужно признать только два фактора. Во-первых, это чувство необходимо, чтобы быть членом морального сообщества, но не обязательно для принятия решений. Во-вторых, функционирование западного общества в его нынешнем виде теперь полностью зависит от вычислительной техники.

Короче говоря, мы построили общество, в котором многие решения либо принимаются, либо основываются на данных, производимых системами, лежащими за пределами нашего морального сообщества — компьютерами. На самом деле в западном мире влияние вычислительной техники вездесуще и часто незаметно, от национальной сети до стиральной машины с нечеткой логикой — компьютеры повсюду. По этой причине этика создания компьютерных систем и их использования необходима для понимания того, как функционирует наше общество, и является ключевым фактором в определении того, как, по нашему мнению, общество может и должно функционировать.

Определение компьютерной этики

Что такое современная компьютерная этика? Объем предмета хорошо изложен в статье Уолтера Манера «Уникальные этические проблемы в информационных технологиях». В нем Манер характеризует компьютерную этику как связанную с этическими ситуациями, которые либо уникальны для вычислений, либо когда использование вычислений существенно меняет этический характер ситуации.

На практике компьютерная этика – это обширная, всеобъемлющая тема, которая часто является междисциплинарной. Темы, изучаемые под его лозунгом, включают: социальные последствия удаленной работы; права отдельных лиц и обществ на доступ к технологиям; последствия глобализации информации и, конечно же, конфиденциальность информации.

Решения, решения

Принятие решений в той или иной форме имеет решающее значение для любого этического исследования. Действительно, этику можно описать как изучение основы и результатов принятия решений человеком. В последнее время в нескольких областях этики, включая медицинскую этику, сам процесс принятия решений стал объектом пристального внимания. Например, информированное согласие и завещание в настоящее время являются горячо обсуждаемыми темами. Подобные вопросы требуют от нас анализа того, что мы считаем правильным процессом принятия решений, например. если кто-то соглашается с правами людей в сценарии «живого завещания», существует ли процесс, который должным образом реализует эти права?

Итак, чтобы разобраться в ситуациях, когда этическая природа самого процесса принятия решений находится под вопросом, я предлагаю разделить расследование на следующие три области:

Процесс принятия решений.
Принимаемые решения.
Контекст принятия решений.

Вместо того, чтобы рассматривать каждый из них абстрактно, я применю их непосредственно к компьютерам. В этом свете я предлагаю рассмотреть следующие соображения:

Какова внутренняя способность компьютера принимать точные решения?
Какие решения принимают компьютеры?
В каком контексте компьютеры принимают решения?

Насколько хорошо компьютеры принимают решения?

Этот вопрос можно рассматривать на двух уровнях. Первый включает в себя анализ типа решения, которое, по нашему мнению, компьютеры могут принимать обоснованно. Второй связан с нашими реальными и потенциальными способностями точно реализовывать процесс принятия решений в системах.

На самом низком уровне детализации современный компьютер абсолютно точен, любой конкретный логический элемент либо включен, либо выключен. Но вопрос о принятии решений не имеет смысла на этом уровне. Чтобы компьютер выполнил операцию, которую мы можем считать решением, он должен работать на уровне, на котором он манипулирует некоторым закодированным представлением этого решения. Таким образом, точность принятия решения частично зависит от того, насколько точно данное решение может быть представлено в компьютере, и в отношении этого решения, насколько точно мы можем общаться с компьютером, т.е. задавать вопрос и получать ответ.

Возьмем пару примеров: такой вопрос, как "Каков результат 1 + 1?"’ довольно недвусмыслен, кажется, что его легко точно представить, и ответ на него известен и неоспорим. Принимая во внимание, что такой вопрос, как «Влюблен ли я?», чрезвычайно сложно представить, и он может иметь или не иметь ответа. Многие компьютерные системы работают где-то посередине между этими крайностями. Компьютеры используются для ответа на вопросы типа, которые часто бывают простыми или сложными, в зависимости от точки зрения, например. вопрос «Должен ли этот человек получить ипотечный кредит?». Вскоре я вернусь к способности компьютера отвечать на этот конкретный вопрос.

Следующий аспект способности компьютера принимать решения: насколько точно на практике данное конкретное решение может быть закодировано в компьютере? Это сводится к точности перевода некоторого «реального» процесса принятия решений в компьютерный код и точности различных уровней кода, которые в конечном итоге переводят процесс в двоичный код, с которым работают логические элементы компьютерного чипа.

Проблема с переводом из «реального мира» в двоичный код (и обратно) заключается в том, что задача чрезвычайно сложна. Современные операционные системы (компьютерный код, находящийся между приложением, таким как текстовый процессор или компьютерная игра, и компьютерным чипом) считаются самыми сложными структурами, которые человечество когда-либо проектировало и создавало. Вдобавок к этому прикладные программы, расположенные поверх операционной системы, сами по себе очень сложны.

В результате всесторонняя проверка правильности кода, на котором работает современный компьютер, на практике невозможна. Чтобы протестировать каждую ветвь сложных деревьев решений, из которых состоит современное программное обеспечение, потребуются годы или, возможно, десятилетия. Этот временной интервал дополнительно увеличивается из-за необходимости повторного тестирования программного обеспечения после того, как ошибки были обнаружены и исправлены (процесс, который часто приводит к большему количеству ошибок), а также необходимости проверки методов тестирования, инструментов и самих данных.

На практике тестируются только те ветви решений, которые, скорее всего, будут использоваться, с данными в ожидаемом диапазоне. Степень тестирования определяется экономикой разработки системы и основным использованием системы.

Итак, ошибка является неотъемлемым свойством современных компьютеров и программного обеспечения. Само по себе это, конечно, не представляет этических проблем, но если компьютер используется в ситуации, когда ошибка может иметь этические последствия, то это становится важным фактором. Учитывая диапазон применений вычислений сегодня и взаимосвязанность компьютерных систем, практически невозможно изолировать все возможные последствия ошибок в рамках одной системы. Таким образом, кажется разумным принять во внимание возможность ошибки при анализе всех компьютерных систем, если иное не исключается особыми обстоятельствами.

На практике учет потенциальных ошибок при внедрении системы означает введение достаточных внесистемных процедур для защиты прав человека. Кроме того, анализ риска, проводимый как часть внедрения системы, должен учитывать вероятные результаты ошибки по предмету, например. клиент; а не только риски для владельца системы, например. компания. Возможно, каждый раз, когда внедряется новая система, должно быть обязательным предусматривать финансовые непредвиденные обстоятельства, покрывающие последствия ошибки для человека. Однако на практике мало что из этого делается.

Какие решения принимают компьютеры?

Компьютер как лицо, принимающее решения, может играть множество различных ролей; их можно разделить на четыре основных типа:

Фильтр В качестве фильтра компьютер принимает решения, которые в некотором отношении ограничивают наш выбор, часто такими способами, о которых мы не задумываемся, например. параметры шрифта и макета во многих пакетах, предустановленные карты в графических пакетах и т. д.

Автоматы Как автомат компьютер обычно управляет процессами, в которых решения основаны на обратной связи данных, определяющих состояние системы, такой как система впрыска топлива автомобиля или система охлаждения автомобиля. ядерная энергетическая система.

Администратор Компьютер в качестве администратора обычно выполняет задачи, которые существовали в той или иной форме до появления вычислительной техники; например, бухгалтерские системы.

Oracle Компьютер Oracle находится в некотором смысле на самом краю роли администратора. В этой роли компьютер делает или кажется, что делает сложный выбор — например, предлагать ли ипотеку и на каких условиях.

Компьютер как Oracle

В случае с компьютером в качестве Oracle, если кто-то спросит: «В этой роли, для принятия каких решений может использоваться компьютер?», то в важном смысле ответ будет таким: практически любое решение, которое может принять человек. Однако в каждой реализации необходимо задаться вопросом: «Какое решение на самом деле принимает компьютер, и является ли процесс принятия решения действительным?»

Если мы возьмем систему оценки ипотечных кредитов, которую я упомянул в качестве примера, основное решение, которое принимает компьютер, заключается в том, соответствует ли некоторый набор данных (обычно история личных финансов и социально-экономическая информация) некоторому заранее определенному набору критериев. Теперь эти критерии могут содержать сильную предвзятость в отношении белых мужчин, работающих в компьютерном секторе. Таким образом, вполне возможно, что хотя казалось кодирование «может ли х иметь право на получение ипотеки?», можно кодировать такие установки, как узаконенный сексизм и расизм, в результате чего компьютер на самом деле оценивает вопрос «соответствует ли набор данных x характеристикам, связанным с белыми мужчинами?»

Важно отметить, что из-за сложности компьютерных систем и часто сильно распределенного процесса разработки даже разработчики системы могут совершенно не подозревать о встроенных предубеждениях. Это связано с тем, что ни один человек не сможет достаточно хорошо разбираться в системе, чтобы обнаружить их.

В каком контексте компьютеры принимают решения?

В каком контексте принимается компьютерное решение? Это зависит от того, почему вы спрашиваете. В целях этого общего введения в предмет я рассмотрю в первую очередь социальный контекст и сосредоточусь конкретно на задействованных властных отношениях.

У компьютеров нет мнений, они не предвзяты и на самом низком уровне не совершают ошибок.

Из-за этих фактов компьютерные приложения часто рассматриваются как этически нейтральные и действительные (во всех смыслах). Но, надеюсь, вы уже поняли, что это далеко не так.

Возьмем снова пример системы оценки ипотеки. Предположим, что заявителю на ипотеку отказывают в ипотеке какое-то учреждение на основании выходных данных системы. Во многих случаях решения системы пропитаны авторитетом корпорации; если добавить к этому часто предполагаемую нейтральность и безошибочность компьютеров, то к кому может обратиться заявитель? На практике человек, работающий с системой, часто не имеет ни полномочий, ни навыков, чтобы оспорить вывод компьютера. На самом деле это может быть прямым результатом снижения квалификации и предполагаемого сокращения расходов, что было одной из причин, по которой система была внедрена.

Теперь предположим на мгновение, что причиной того, что заявитель не был принят на ипотеку, была системная ошибка, возникшая из-за некоторой редкой комбинации данных, почти уникальных для заявителя. Предположим далее, что ошибка была вызвана комбинацией ошибок в оборудовании, операционной системе и прикладном программном обеспечении. И, наконец, представьте себе, что отказ в ипотеке приводит к каким-то бедственным обстоятельствам для просителя. В делах такого типа неясно, к кому заявитель имеет право на апелляцию, или кто, если вообще кто-либо, может считаться ответственным за ошибку. На самом деле, в таком случае определение того, была ли компьютерная ошибка и что именно было исправлено, стоило бы значительно больше, чем стоимость ипотечного кредита, на который была подана заявка.

Практическая этика вычислений

Итак, может показаться, что существуют определенные виды решений, для которых компьютерные системы хорошо подходят, и другие, для которых они не подходят. Врожденные свойства компьютерных систем требуют, чтобы при рассмотрении компьютеризации задавались определенные вопросы, например, действительно ли предполагаемые решения могут быть правильно закодированы в системе или нет. Также кажется важным, чтобы разработчики системы проверяли и подтверждали лежащий в основе характер процедур, которые система будет автоматизировать, прежде чем они будут наделены «нейтральным» авторитетом компьютера и силой организации.

На практике эти соображения редко принимаются во внимание. Факторы, учитываемые при определении необходимости установки системы, обычно являются краткосрочными, локализованными и экономически выгодными. Кроме того, организации могут внедрять системы почти так, как они считают нужным. Единственными юридическими ограничениями для них являются общие законы, которые во многих случаях неприменимы к компьютеризированным ситуациям, и некоторые специальные законы, касающиеся таких вопросов, как защита данных и неправомерное использование компьютеров.

Итак, мы должны просто запретить компьютеры, выключить их все сейчас? Ну нет. Что делает компьютерную этику чрезвычайно сложной областью, так это то, что компьютерные системы часто приносят огромную пользу как организации, создающей систему, так и нам, широкой публике. Только подумайте о системах мониторинга сердца и других компьютеризированных устройствах в отделениях интенсивной терапии. Проблема с этическим статусом любой конкретной системы является общей, и она применима к любому решению, имеющему четкую локальную краткосрочную выгоду и потенциально нелокализованные долгосрочные издержки, которые могут или не могут непосредственно повлиять на лицо, принимающее решение. Возьмем наш ипотечный пример в последний раз. Хотя некоторые предрассудки могут быть закодированы в системе, чем они хуже тех, которые существуют в современном обществе?Даже если это так, можно утверждать, что повышенное удобство более быстрых и дешевых ипотечных котировок перевешивает эти затраты.

К сожалению, этот аргумент можно было бы применить на практике только в том случае, если бы компьютерные системы были изолированы и могли рассматриваться на простой индивидуальной основе. Но это не так. Компьютеризация уже широко распространена, системы взаимозависимы, и природа нашего общества отчасти зависит от них; просто невозможно ни переоценить все внедренные системы, ни рассмотреть новые по отдельности.

Я понимаю, что это кажется несбыточной мечтой. Так бы и было, если бы не один фактор: двухтысячный год. По иронии судьбы, «ошибка 2000 года» или «кризис 2000 года» возникли как раз в нужное время.

Кризис 2000 года прояснит зависимость общества от вычислительной техники, которая до сих пор оставалась в значительной степени скрытой. Это очень просто продемонстрирует, что даже при вычислении самых элементарных сумм компьютеры ошибаются и что это имеет последствия, которые напрямую влияют на всех нас.

Поэтому мы должны приветствовать ошибку Y2K как острое напоминание о том, во что мы превратились как общество. Напоминание о том, что с тех пор, как мы начали использовать кремневые инструменты, у нас была причина задуматься о том, что эти инструменты делают из нас; и нам нужно позаботиться о том, чтобы мы не стали подчиняться нашим собственным творениям.

Эндрю Рейнольдс пишет о последствиях новых технологий, живет в очень старом доме и изучает философию в колледже Биркбек. Он хотел бы поблагодарить Гэри, Ивану, Оливию и Кэти из Birkbeck за помощь в написании статьи.

Электронная почта

С появлением технологий компьютеры теперь могут принимать множество обоснованных решений, которые менеджеры или офисные работники могут счесть ненужными для человека. Эти решения могут включать расчет показателей прибыли для определения будущих увольнений или оценку того, должны ли определенные глобальные офисы оставаться открытыми или нет. Если вы оцениваете, подходит ли компьютеризированное принятие решений для вашей организации, у внедрения этой технологии в вашу корпоративную стратегию есть свои преимущества и недостатки.

Хранение данных и информации

В то время как человеческий мозг может содержать большое количество информации для принятия решения, "мозг" компьютера может содержать еще больше данных и информации, в зависимости от места хранения, к которому он подключен. Обладая большей емкостью для большего количества данных, особенно данных, которые человеческий мозг может не удерживать, таких как сложные уравнения, больше информации может быть включено в «мозг» или алгоритм компьютера при принятии им решений, что приводит к лучшим результатам.

Скорость и точность

Компьютеры могут обрабатывать информацию намного быстрее, чем человеческий мозг. Одним из преимуществ компьютеров, принимающих решения, является то, что вы будете принимать решения быстрее и точнее, чем человеческий мозг, который может зацикливаться на различных факторах, влияющих на решение, что приводит к более медленным общим результатам. Кроме того, в отличие от людей, которые могут устать или страдать от недостатка концентрации и принимать неточные решения, хорошо настроенный компьютер всегда начеку и может обрабатывать огромное количество информации без усталости и скуки, что приводит к более точным результатам.

Высокая стоимость оборудования

Высокая стоимость приобретения подходящего компьютерного оборудования, включая большой объем компьютерной памяти и хранилища, является одним из недостатков компьютерных технологий при принятии решений. Кроме того, затраты на специалиста по компьютерам для написания алгоритма, необходимого для вашего типа решения, могут быть высокими. К тому времени, когда ваше оборудование будет куплено и ваш алгоритм будет написан, он также может уже устареть, поскольку технологии постоянно развиваются и строятся на том, что уже работает, чтобы сделать его лучше.

Моральный дух и субъективность сотрудников

Когда решения принимает компьютер, некоторые менеджеры могут считать, что их собственные навыки принятия решений не важны, что может снизить моральный дух сотрудников. Кроме того, в отличие от людей, которые могут быть субъективными и рациональными, компьютеры могут быть только рациональными. Устраняя субъективность в процессе принятия решений, в результате могут отсутствовать некоторые элементы, которые вас беспокоят.

Виды решений, которые могут принимать компьютеры

Хотя мы еще не достигли эры, в которой компьютеры упразднят все задачи и решения, принимаемые людьми, есть некоторые решения, для принятия которых компьютеры хорошо приспособлены. Например, отрасль здравоохранения использует компьютеризированный прогностический анализ для предоставления более качественных услуг.Некоторые отделения неотложной помощи теперь укомплектованы отделениями неотложной помощи в зависимости от ожидаемого количества чрезвычайных ситуаций, ожидаемых каждую неделю.

В области инвестиций торговые боты теперь могут покупать и продавать акции без вмешательства человека на основе сложных алгоритмов, которые являются более точными, чем все, что может разработать человек. Компьютеры также эффективны в цифровом маркетинге. С помощью процесса, известного как A/B-тестирование, в ходе которого тестируются две разные версии чего-либо, чтобы определить, какая из них работает лучше, компьютеры могут решить, какая веб-реклама с большей вероятностью понравится целевой аудитории или какие заголовки целевых страниц веб-сайта сохранят актуальность. интерес первого посетителя.

Источник: общественное достояние CC0

Команда британских исследователей разработала метод, позволяющий компьютерам принимать решения так, как это делает человек. В частности, этот метод имитирует сложный процесс принятия решений людьми, позволяя компьютерам принимать несколько приемлемых решений по одной конкретной проблеме. Исследование было опубликовано в майском номере журнала IEEE/CAA Journal of Automatica Sinica (JAS).

Принятие решений человеком несовершенно, и могут быть приняты разные решения, даже если исходные данные одинаковы. Это называется изменчивостью, и она существует на двух уровнях: среди группы людей, являющихся экспертами в какой-либо области, и среди решений, принятых только одним экспертом. Их называют меж- и внутриэкспертной изменчивостью. Установив, что такая изменчивость в поведении при принятии решений является важной частью создания экспертных систем, исследователи предлагают не ожидать, что компьютеры будут принимать одни и те же решения в 100% случаев, а ожидать, что они будут работать на одном уровне. как люди.

"Если проблемная область такова, что люди-эксперты не могут достичь 100% производительности, то мы не должны ожидать, что компьютерная экспертная система в этой области сделает это, или, другими словами, если мы позволим людям-экспертам совершать ошибки , то мы должны позволить компьютерной экспертной системе сделать это», — говорит Джонатан М. Гарибальди, доктор философии, руководитель Школы компьютерных наук в Ноттингемском университете, Великобритания, который возглавляет исследование интеллектуального моделирования и анализа (IMA). Группа.

Исследователи нашли способ разнообразить компьютеры и показали, что это может принести пользу. С помощью нечеткого вывода — системы, в которой используются правила «если-то», в соответствии с которыми данные могут быть представлены в диапазоне от 0 до 1, а не 0 или 1, — они смогли создать компьютерную систему, которая принимает решения с такая же изменчивость, как у людей-экспертов.

"Изучение вариаций в процессе принятия решений полезно. Тщательно контролируемое введение вариаций может повысить эффективность", – добавляет Гарибальди. «Если мы не позволим компьютерным системам совершать те же ошибки, что и лучшие люди, мы отложим те преимущества, которые могут быть получены благодаря их использованию», — добавляет он далее.

Исследователи рассматривают искусственный интеллект как устройства, помогающие решать проблемы и принимать решения. Например, вместо того, чтобы ожидать, что ИИ заменит врача в поиске наилучшего варианта лечения онкологического больного, его следует использовать как инструмент, помогающий врачам избежать «самых неправильных» вариантов среди целого ряда потенциальных вариантов, которые может выбрать обученный специалист. врач-человек (или группа обученных врачей-людей).

"Компьютеры не берут верх, а просто предоставляют больше возможностей для принятия решений", – говорит Гарибальди. «Это экономит время и, в конечном счете, спасает жизни, потому что катастрофы случаются в результате неоптимального ухода. Компьютеры могут помочь избежать вопиющей ошибки, которую совершают люди в качестве «вспомогательных экспертов» в комнате, которые исключают неправильные решения и ошибки, предоставляя набор альтернативных решений, все из которых могут быть правильными."

Исследователи надеются в будущем использовать эти системы в реальных медицинских целях, в результате чего появится проблема и компьютерная система, которая сможет решить ее и поддержать принятие решений в реальной жизни.

Этот документ защищен авторским правом. За исключением любой честной сделки с целью частного изучения или исследования, никакая часть не может быть воспроизведена без письменного разрешения. Контент предоставляется только в информационных целях.

Обратите внимание, что Internet Explorer версии 8.x не поддерживается с 1 января 2016 г. Дополнительную информацию см. на этой странице поддержки.

Информация и управление

Добавить в Mendeley

Аннотация

Теория принятия решений — это формальная основа для рассмотрения процесса принятия решений человеком.Обычно он ориентирован на людей, и даже если лицу, принимающему решения, оказывается помощь в процессе, предполагается, что помощь оказывает другой человек. Однако в компьютерный век человеку, принимающему решения, чаще всего помогает компьютер. Следовательно, в этой статье мы исследуем обоснование интегрированного информационного процессора «человек-компьютер» и рассмотрим возможности обработки информации человеком и компьютером в рамках формальной модели принятия решений. Анализ компьютера выполняется при условии, что он обладает хотя бы возможностями системы поддержки принятия решений.

Ключевые слова

Варгезе С. Джейкоб — доцент факультета бухгалтерского учета и управленческих информационных систем Университета штата Огайо. Он получил докторскую степень. получил степень в области информационных систем управления в Университете Пердью в 1986 году. Его исследовательские интересы связаны с искусственным интеллектом, экспертными системами, системами поддержки принятия решений и теорией принятия решений. Он опубликовал статьи в журналах «Поведение и информационные технологии» и «Информатика в экономике и менеджменте». Он является членом Института управления наукой, компьютерного общества IEEE и Ассоциации вычислительной техники.

Джеймс С. Мур – профессор экономики Школы менеджмента Краннерта Университета Пердью, Уэст-Лафайет, Индиана. Его исследовательские интересы лежат в области микро/математической экономики, экономики благосостояния и экономики информации и организации. Он получил B.A. получил степень бакалавра экономики в Университете Небраски в Омахе в 1960 г. и докторскую степень. Он получил степень бакалавра экономики в Университете Миннесоты в 1968 году. До прихода на факультет Университета Пердью он преподавал в Университете Миссури, Колумбия. Д-р Мур является членом Американской экономической ассоциации и Эконометрического общества.

Эндрю Б. Уинстон — профессор информационных систем, экономики и информатики Техасского университета в Остине. Его основной исследовательский интерес - информационные системы управления. Его текущие исследовательские интересы включают управление базами данных и применение искусственного интеллекта в экономике и управлении. Он также изучал прикладную экономику, регулятивную экономику и теорию бухгалтерского учета. Среди его многочисленных публикаций он является соавтором двух книг (совместно с К. Холсапплом и Р. Бончеком), «Основы систем поддержки принятия решений» (Academic Press, 1981) и «Управление микробазами данных — практические методы разработки приложений» (Academic Press, 1985). ). Он был консультантом различных компаний, государственных учреждений и международных организаций по вопросам обработки данных.

Читайте также: