Зачем вам нужен компьютер Моргенштерна

Обновлено: 21.11.2024

Джейми Моргенштерн хочет сделать машинное обучение объективным

Сейчас машинное обучение используется почти во всех решениях. Это может помочь найти хороших кандидатов на кредит, кандидатов на работу и целевую рекламу. Местные органы власти полагаются на системы машинного обучения для распределения ограниченных ресурсов, таких как присутствие полиции и социальные службы.

Хотя автоматизация этих процессов повышает скорость принятия решений, она также может усугубить неравенство. Модели машинного обучения находят закономерности в исторических данных и используют их для прогнозирования будущих закономерностей. Если у определенного населения был более исторический доступ к какому-либо ресурсу (например, ипотеке), алгоритм машинного обучения может определить эту тенденцию и попытаться воспроизвести ее в будущих решениях.

Об этой проблеме много думает доцент Школы компьютерных наук Джейми Моргенштерн. Необходимо тщательно изучить весь конвейер машинного обучения, от сбора и очистки данных до изучения модели и ее развертывания.

Преодоление разрыва между экономикой и информатикой

Это приложение теории игр к экономике всегда интересовало Моргенштерн, но только когда она прошла курс информатики на втором курсе Чикагского университета, она нашла для него подходящее применение.

"Мне понравились следствия теорем, показывающих, как решать проблемы, имеющие какое-то отношение к реальному миру, эффективными с точки зрения вычислений способами", – сказала она.

Одна из этих реальных проблем заключается в том, как думать об экономике с ограниченными данными. Экономисты склонны полагать, что в мире идеальное распределение данных, и люди ведут себя рационально в своей среде. Однако ученые-компьютерщики часто исходят из наихудшего сценария и признают, что у людей никогда не бывает идеального описания окружающей их среды — только исторические данные о ней.

"Рассуждения о стратегическом и наихудшем поведении – это интересные способы взглянуть на мир и найти решения, – сказал Моргенштерн. «Ни одна из них не идеальна, но обе являются полезными моделями в разных условиях».

По мнению Моргенштерна, машинное обучение — идеальный мост между двумя школами мысли, поскольку оно позволяет делать обобщения относительно экономических проблем, несмотря на несовершенную информацию. Моргенштерн изучала социальное влияние машинного обучения, а также влияние социального поведения на машинное обучение во время получения докторской степени. в Университете Карнеги-Меллона, где ее консультировал известный теоретик профессор Аврим Блюм.

Справедливое машинное обучение

Добросовестность в машинном обучении — относительно новая область в уже развивающейся области, но она важна по мере того, как эта концепция становится все более популярной.

"Вопрос в том, как убедиться, что вы не переделываете информацию, которую находите из этих ограниченных данных, продолжая учиться?" — сказал Моргенштерн.

Моргенштерн присоединилась к факультету SCS весной 2018 г., выбрав Технологический институт Джорджии за его репутацию центра теоретической информатики, идеально подходящего для ее исследований. Ее текущая работа сосредоточена на измерении того, как неоптимальные данные влияют на машинное обучение. Главная цель ее работы — сделать мир более справедливым и этичным благодаря машинному обучению, а не усугублять историческую несправедливость.

"Меня всегда волновала социальная справедливость и мысль о том, что мы должны сделать наши системы более справедливыми и нерентабельными".

В январе 1953 года Оскар Моргентерн написал Альфреду Коулзу, чтобы предложить внести изменения в Устав Эконометрического общества (ES). Секция Fellow заявила, что:

Вместо этого Моргенштерн предложил, чтобы кандидаты обязывались «проделать некоторую эконометрическую работу в самом строгом смысле» и «действительно контактировать с данными, которые они изучили и использовали, для чего они возможно, даже разработали новые методы». Хотя его помнят как соавтора одного из самых выдающихся теоретических трактатов по экономике, Теория игр, Моргенштерн также давно интересовался статистическими работами. Он считал, что редакторы Эконометрического общества и Econometrica переоценивают «чисто абстрактную работу», в то время как следует стимулировать «статьи, связанные с данными».

Отрицательные реакции

Тьяллинг Купманс

Предложение Моргенштерна было распространено среди товарищей и вызвало всевозможные комментарии. Экономисты Комиссии Коулза отреагировали отрицательно. Исполняющий обязанности директора Тьяллинг Купманс утверждал, что «подавляющее большинство стипендиатов» обрабатывали статистические данные в своих документах.«Прогресс экономических знаний требует параллельной работы в области экономической теории, статистических выводов и собственно экономической работы», — продолжил он, так что конституция ЕС должна допускать специализацию. Бывший директор Cowles Джейкоб Маршак в свойственной ему лаконичности прокомментировал:

Их заявления отражали неопределенность, с которой столкнулись экономисты-теоретики в начале 1950-х годов. В эти годы накапливались новаторские вклады (доказательство существования GE, теория игр, рациональное решение в условиях неопределенности), но финансовое положение исследовательских организаций, их производивших, было далеко не обеспеченным. Коулз только что переориентировал свою исследовательскую программу с эмпирической работы на теоретическое исследование принятия решений, изменив свой девиз с «Наука есть измерение» на «Теория и измерение», но Маршак, тем не менее, дал указание Купмансу преуменьшить теоретическое измерение их проекта в его переговорах с крупнейший покровитель экономических исследований — Фонд Форда.

Гриффит С. Эванс

Скептицизм Маршака и Купмана был поддержан французским политехником Рене Роем и математиком из Беркли Гриффитом С. Эвансом. Плывя против течения формалистов, Эванс был одним из первых сторонников измеримых или количественных математических моделей. Тем не менее он отверг предложение Моргенштерна — он тоже считал, что следует сохранить некоторое разделение труда: «это проблемы, напр. теория денег, в которой статистика, кажется, играет второстепенную роль», — написал он в (не столь дальновидном) ответе.

Положительные отзывы

Напротив, студент Эванса Чарльз Рус, также связанный с Коулзом, обнаружил, что «полностью и искренне согласен» с Моргенштерном, как и многие опрошенные. Однако их одобрение выглядело скорее социологическим, чем интеллектуальным. Многие выразили недовольство тем, что «страницы, забитые формулами» — это ажиотаж в Econometrica. Они опасались, что формализация может отдалить их науку от «нитей экономической и социальной реальности». Отсутствие эмпирической работы не было связано с нехваткой данных, настаивал Р. Гири, поскольку большая часть данных, подготовленных национальными статистическими управлениями, не использовалась в научных целях. Суть дебатов аккуратно резюмировал Луиджи Аморозо:

Устав не был изменен в 1953 году. Двусторонний критерий приемлемости по-прежнему лежит в основе нынешней организации Эконометрического общества. Его единственное изменение произошло после 1997 г. с заменой «анализов, имеющих определенное отношение к проблемам экономической теории» на «проблемы экономики».

Взгляд Моргенштерна на отношения между теорией и данными

Несмотря на свое предложение по конституционной реформе, Моргенштерн был далеко не энтузиастом данных. Его давний интерес к статистической работе сочетался с непоколебимой озабоченностью многочисленными ошибками наблюдений, сопровождающими экономические данные. В прекрасной статье Марсель Боуманс рассказывает о развитии пессимистического взгляда Моргенштерна, один набросок в статье «О точности экономических наблюдений» (1950, 1963). Проблема, объясняет Боуманс, в том, что эталоном для Моргенштерна были наблюдения в естественных науках, которые планировались, разрабатывались и направлялись теорией. Ошибки были бессистемным результатом человеческой ошибки, ибо природа «не лжет преднамеренно». Но экономические агенты это делают, сетовал Моргенштерн, что усугубляет отсутствие спланированных экспериментов, ошибок в опросниках и инструментах и отсутствие определений. Годы «выборки во враждебной среде», в частности работы со статистикой, подготовленной Германией, Советским Союзом и Китаем в Лиге Наций, укрепили веру Моргенштерна в то, что экономическая статистика «не является научным наблюдением».

IBM 604, используемый в RAND с 1951 года

Для Моргенштерна, объясняет Боуманс, каждое наблюдение должно быть подкреплено теорией. Теория уменьшает количество требуемых измерений и придает смысл данным. В противном случае исследователь будет «просто искать». Тем не менее Моргенштерн признал, что в некоторых случаях новые данные могут быть получены в условиях, не ограниченных теорией.В Экспериментах и крупномасштабных вычислениях в экономике (1954 г.) Моргенштерн сравнил использование «высокоскоростной электронной вычислительной машины» с веком телескопов и микроскопов, когда

«Все, что имело значение, это взять эти замечательные новые инструменты и смотреть, смотреть практически куда угодно. Обнаружатся какие-то явления, совершенно неожиданные, будь то луны Юпитера или крошечные амебы в капле воды […в] сравнительно неразвитом состоянии экономики «простое наблюдение» с помощью компьютеров занимает все еще очень большое поле для изучения. будущее».

Поэтому Моргенштерн допускал производство данных без теории, но только как временный этап в развитии экономической науки:

Ни в астрономии, ни в биологии сегодня далеко не уедешь, если просто оглядеться, как тогда: сейчас теория направляет направление поиска фактов и явлений, иногда чрезвычайно эзотерических и неуловимых те

Что это значит на сегодняшний день?

Именно дискуссии, связанные с появлением эмпирических исследований в экономике и недавним сопротивлением революции доверия, вернули меня к видению Моргенштерна. В 1953 году он заявил, что эмпирическая работа настолько важна для развития экономики, что ни один научный сотрудник не может обойтись без нее. В то же время он считал, что научное наблюдение необходимо на основе теории. Он признавал, что растущее использование компьютеров приведет экономику к периоду анализа новых явлений, основанного на данных, но считал, что такая эволюция преходяща. Его взгляды бросают вызов оптимизму рандомистов и сторонников машинного обучения, а также скептицизму тех, кто считает, что данные опосредованы теорией. Это ставит под сомнение значимость четких категорий, таких как индуктивизм и дедуктивизм, для описания динамики экономических знаний. Если «на этот раз все по-другому», то нужно лучше описать преобразованные отношения между теорией и данными, возникающие благодаря новым инструментам, исследовательским проектам и алгоритмам.

Примечание. Эти архивы были извлечены из архивов AEA Мэттом Панхансом и Джоном Синглтоном . Вместе со многими другими жемчужинами ES они видны здесь. Здесь всеобъемлющая история стипендий Олава Бьеркхольта по ES.

Описана компьютерная программа APL для вычисления характеристической функции фон Неймана-Моргенштерна кооперативных n переносимых игр полезности в нормальной форме. Эта программа предназначена для автономной работы или может использоваться в сочетании с другими программами для теоретико-игровых вычислений, которые будут представлены в следующих статьях.

Скачать, чтобы прочитать полный текст статьи

Ссылки

Ауманн, Р. И. (1961). Суть совместной игры без побочных платежей.Труды Американского математического общества, 98, 539–552.

Ауманн, Р. Дж. (1967). Обзор кооперативных игр без побочных выплат. В книге М. Шубика (ред.), Очерки математической экономики в честь Оскара Моргенштерна. Принстон, Нью-Джерси: Издательство Принстонского университета.

Ауманн, Р. Дж., и Пелег, Б. (1960). решения фон Неймана-Моргенштема для кооперативных игр без побочных выплат. Бюллетень Американского математического общества, 66, 173–179.

Чарнс, А. (1953). Игры с ограничениями и линейное программирование. Proceedings of the National Academy of Sciences, 39, 639–641.

Чарнс А. и Купер В.В. (1961).Модели управления и промышленные приложения линейного программирования (Том 2). Нью-Йорк: Уайли.

Чарнс, А., и Голани, Б. (1983). Гомокоры, ядра и операционная неэффективность в супераддитивных играх с участием n человек.International Journal of Systems Science, 14, 877–893.

Чарнс, А., и Соренсен, С. (1974). Игры с ограничениями для n человек.International Journal of Game Theory, 3, 141–158.

Харшани, Дж. К. (1959). Модель торга для совместной игры n человек. В AW Tucker & RD Luce (Eds.), Contributions to the Theory of Games, Vol. IV. Анналы математических исследований, 40, 325–255.

Харшани, Дж. К. (1963). Упрощенная модель переговоров для кооперативной игры с участием n человек. International Economic Review, 4, 194–220.

Michener, H.A., Macheel, G.B., Defies, C.G., & Bowen, C.A. (1983).Представление Mollifier в играх с непостоянной суммой от n лиц. Мэдисон, Висконсин: Университет Висконсина.

Пелег, Б. (1963a). Торговые наборы кооперативных игр без дополнительных платежей. Israel Journal of Mathematics, 1, 197–200.

Пелег, Б. (1963b). Решения для совместных игр без дополнительных платежей. Труды Американского математического общества, 106, 280–292.

Сакурай, М. М. (1980). Соревновательный тест описательной точности характеристической функции, степенной функции и функции, основанной на значении Шепли. Theory & Decision, 12, 259–278.

Сакураи, М. М. (1985).Критическая оценка лабораторных парадигм для тестирования моделей решения конфликтов: недостатки, связанные с экспериментальной тестовой задачей и мотивационной ориентацией субъекта (RMNSF-85-2). Гонолулу, Гавайи: Исследовательские информационные службы.

Sakurai, MM (1986a).Конкурсный тест функции мощности CSOF, функции мощности-Шепли, гомомолификатора и характеристической функции (RM-NSF-861). Гонолулу, Гавайи: Исследовательские информационные службы.

Sakurai, MM (1986b).Описывающие модели стратегии угроз при различных условиях паритета результатов, конкурентный тест функции Харсаньи, функция ценности Шепли с конфликтом и характеристическая функция (RM-NSF-864 ). Гонолулу, Гавайи: Исследовательские информационные службы.

Сакураи, М.М., и Бреннан, Дж.М. (1988a).Вычисление игровой функции с ограничениями CGF(S) для кооперативных переносимых полезностей с участием n человек в играх в нормальной форме. Рукопись отправлена для публикации.

Сакураи, М.М., и Бреннан, Дж.М. (1988b).Вычисление функции Харсаньи H(S)для кооперативных переносимых игр полезности с участием n человек. Рукопись отправлена для публикации.

Серл, С. Р. (1971). Линейные модели. Нью-Йорк: Уайли.

Шепли, Л.С., и Шубик, М. (1973).Теория игр в экономике. Глава 6: Характеристическая функция, ядро и стабильное множество (R-904-NSF/6). Санта-Моника, Калифорния: The Rand Corporation.

Шубик, М. (1982).Теория игр в социальных науках: концепции и решения. Кембридж, Массачусетс: MIT Press.

Smilue, KW (1983). Statpack3: Статистический пакет APL (3-е изд.). Эдмонтон, Альберта, Канада: факультет компьютерных наук Университета Альберты.

фон Нейман, Дж., и Моргенштерн, О. (1944).Теория игр и экономическое поведение. Принстон, Нью-Джерси: Издательство Принстонского университета.

Информация об авторе

Принадлежности

Research Information Services, 745 Fort Street, Suite 600, The Hawaii Building, 96813, Гонолулу, Гавайи.

Мелвин М. Сакураи

Кафедра социологии Гавайского университета в Маноа, Porteus Hall 247, 2424 Maile Way, 96822, Гонолулу, Гавайи.

Джерри М. Бреннан

Вы также можете искать этого автора в PubMed Google Scholar

Дополнительная информация

Эта работа была частично поддержана грантом Национального научного фонда SES84-20167, предоставленным Программой принятия решений и управления наукой (теперь Программа принятия решений, рисков и управления наукой) первому автору.

Права и разрешения

Об этой статье

Процитировать эту статью

Получено: 18 мая 1988 г.

Принято: 23 мая 1988 г.

Дата выпуска: июль 1988 г.

Поделиться этой статьей

Все, с кем вы поделитесь следующей ссылкой, смогут прочитать этот контент:

В настоящее время вы просматриваете архив тегов для тега «моргенштерн».

Являются ли игроки машинами Тьюринга?

Да, ответят некоторые, поскольку когнитивные и физические процессы, происходящие в моем сознании/теле/что бы то ни было, когда я принимаю решения или выбираю действия, могут быть смоделированы компьютерной программой.

Даже если мы примем это утверждение за истинное, я нахожу этот аргумент неудовлетворительным. Для меня предметом теории игр и теории принятия решений является идея рациональности, а не паршивая тень рациональности, возникшая у меня по соседству. Когда я сталкиваюсь со всевозможными глупостями, которые делают люди, я отвечаю: «Ну и что?» Почему мы должны переделывать нашу теорию рациональности, чтобы приспособить ее к мелочным действиям кучки говорящих обезьян на в основном безобидной планете посреди планеты? нигде?

Итак, тот факт, что люди являются ходячими компьютерами, не означает, что игроки также являются компьютерами.

И тем не менее, даже если вы, как и я, не считаете своих игроков моделями людей, я все же считаю, что вы, возможно, захотите рассмотреть вычислимость их стратегий. Моя причина в том, что теория игр традиционно изучает не только рациональное поведение, но и более расплывчатое понятие рационального мышления:

Представьте себе, что каждый игрок вместо того, чтобы принимать каждое решение по мере возникновения в нем необходимости, заранее решает все возможные непредвиденные обстоятельства; то есть, что игрок начинает играть с полным планом, который определяет, какой выбор он будет делать в каждой возможной ситуации…. Мы называем такой план стратегией. (фон-Нейман и Моргенштерн, раздел 11.1)

Вернемся к игре Рабина, о которой я говорил вчера. Даже если мы примем существование функции, которая появляется во втором элементе, как математическую сущность, такая функция представляет собой «план», который даже в принципе нельзя выполнить, описать или обосновать.

Поэтому я думаю, что можно сделать вывод, что, ограничивая наше внимание вычислимыми функциями, мы не ограничиваем произвольным образом набор стратегий игрока.Напротив, стандартная теоретико-игровая формулировка, допускающая невычислимые функции, расширяет ее до математических существ, которые на самом деле не отражают нашу идеальную концепцию стратегии

Оскар Моргенштерн был экономистом немецкого происхождения, которого лучше всего помнят за разработку теории игр вместе с математиком из Принстона Джоном фон Нейманом. Моргенштерн родился в Гёрлице, Саксония, в семье предположительно незаконнорожденной дочери немецкого императора Фридриха III. Он вырос в Австрии и учился в Венском университете, где в 1925 году получил докторскую степень. Моргенштерн тринадцать лет преподавал в университете, прежде чем в 1938 году получил приглашение в Принстонский университет. Находясь за границей, Адольф Гитлер инициировал успешный захват австрийского правительства, что побудило Моргенштерна остаться в Соединенных Штатах.

В Принстоне Моргенштерн познакомился с фон Нейманом и тесно сотрудничал с ним и другими сотрудниками Института перспективных исследований. В 1944 году они стали соавторами The Theory of Games and Economic Behavior, первого текста на эту тему. В книге изложены основные концепции стратегических игр и их применение в экономической и социальной теории. Помимо закладки основ теории игр, пересмотренная версия The Theory (опубликованная в 1947 г.) включала некоторые из самых ранних выводов числовой теории полезности. Книга была источником вдохновения для поколений теоретиков игр и предметом значительного пересмотра и расширения. Дэвид Блэквелл, например, сформулировал свое монументальное исследование статистических игр в Теории игр и статистических решений (1954) в контексте Моргенштерна и фон Неймана.

В конце своей карьеры Моргенштерн применил спектральный анализ и экономическую теорию к финансам. Он покинул Принстон в 1970 году, чтобы поступить на факультет Нью-Йоркского университета, где у него появился интерес к Нью-Йоркской фондовой бирже и ценам на акции. Его последняя крупная книга, Математические теории расширяющейся и сжимающейся экономики (1976 г.), написанная в соавторстве с Джеральдом Л. Томпсоном, устранила многие ограничительные допущения экономической теории и расширила общее понимание экономической реальности.

Как человек, получивший образование в австро-германской школе математической и экономической мысли, Моргенштерн проявил особый уровень творчества и тщательности, отличающийся от уровня его англо-американских коллег. Он по-прежнему известен как провидец, который активно искал новые области исследований и обладал способностью преобразовывать сложное интеллектуальное видение в новаторские и широко осязаемые публикации.

Другие биографии

Хендерсон Д. (2008) "Оскар Моргенштерн". Хендерсон Д., изд. Краткая энциклопедия экономики. Библиотека экономики и свободы. (ссылка)

Леонард Р. (2010) Фон Нейман, Моргенштерн и создание теории игр. Издательство Кембриджского университета: Нью-Йорк.

Шоттер А. (1990) Вклад Оскара Моргенштерна в развитие теории игр. Представленная бумага. Конференция по истории теории игр. Университет Дьюка: Дарем, Северная Каролина. (ссылка)

Читайте также: