Валера играет на компьютере, для победы нужно набрать не менее 1000 очков за три этапа

Обновлено: 03.07.2024

Лейла Аррас, Хосе Архона-Медина, Майкл Видрич, Грегуар Монтавон, Майкл Гиллхофер, Клаус-Роберт Мюллер и др.

Часть IV. Оценка интерпретируемости и пояснений

Питер-Ян Киндерманс, Сара Хукер, Юлиус Адебайо, Максимилиан Альбер, Кристоф Т. Шютт, Свен Дэн и др.

Часть V. Применение объяснимого ИИ

Об этой книге

Введение

Разработка «интеллектуальных» систем, которые могут принимать решения и действовать автономно, может привести к более быстрым и последовательным решениям. Ограничивающим фактором для более широкого внедрения технологии ИИ являются неотъемлемые риски, связанные с передачей человеческого контроля и надзора «интеллектуальным» машинам. Для чувствительных задач, связанных с критическими инфраструктурами и влияющих на благополучие или здоровье людей, крайне важно ограничить возможность неправильных, ненадежных и небезопасных решений и действий. Перед развертыванием системы ИИ мы видим настоятельную необходимость проверить ее поведение и, таким образом, установить гарантии того, что она будет продолжать работать должным образом при развертывании в реальной среде. Для достижения этой цели были изучены способы, с помощью которых люди могут проверить соответствие между структурой принятия решений ИИ и их собственными достоверными знаниями. Объяснимый ИИ (XAI) развился как подполе ИИ, ориентированное на предоставление людям сложных моделей ИИ систематическим и интерпретируемым образом.

22 главы, включенные в эту книгу, представляют своевременный обзор алгоритмов, теории и приложений интерпретируемого и объяснимого ИИ и методов ИИ, которые были недавно предложены, отражая текущий дискурс в этой области и определяя направления будущего развития. Книга состоит из шести частей: к прозрачности ИИ; методы интерпретации систем ИИ; объяснение решений систем ИИ; оценка интерпретируемости и объяснений; приложения объяснимого ИИ; и программное обеспечение для объяснимого ИИ.

Ключевые слова

искусственный интеллект компьютерное зрение глубокое обучение объяснимое объяснение ИИ методы нечеткое управление нечеткие модели нечеткие правила нечеткие системы обработка изображений интерпретируемость машинное обучение нейронные сети семантика прозрачность визуализация

Редакторы и организации

Войцех Самек
- 1
- 2
- 3
- 4
- 5
1. 1. Институт Фраунгофера Генриха Герца, Берлин, Германия
2. 2. Технический университет Берлина Берлин Германия
3. 3. Оксфордский университет Оксфорд, Великобритания
4. 4. Технический университет Дании Kgs. Люнгбю, Дания
5. 5. Секретариат MAR 4-1 Технический университет Берлина Берлин Германия
Библиографическая информация

Отзывы

"Это очень ценная коллекция для тех, кто работает с любым приложением глубокого обучения, которое на данный момент ищет ключевые методы XAI. Читатели из других областей ИИ или новички в XAI могут получить представление о том, куда движутся передовые исследования». (Хосе Эрнандес-Оралло, Computing Reviews, 24 июля 2020 г.)

Коммутация пакетов — это метод передачи данных в сеть в виде пакетов. Для быстрой и эффективной передачи файла по сети и минимизации задержки передачи данные разбиваются на небольшие фрагменты переменной длины, называемые пакетами. В пункте назначения все эти мелкие части (пакеты) должны быть собраны заново, принадлежащие одному и тому же файлу. Пакет состоит из полезной нагрузки и различной управляющей информации. Предварительной настройки или резервирования ресурсов не требуется.

Коммутация пакетов использует метод Store and Forward при переключении пакетов; при пересылке пакета каждый переход сначала сохраняет этот пакет, а затем пересылает. Этот метод очень удобен, потому что по какой-то причине пакеты могут быть отброшены на любом узле. Между парой источников и пунктов назначения возможно более одного пути. Каждый пакет содержит адрес источника и адрес назначения, по которым они независимо путешествуют по сети. Другими словами, пакеты, принадлежащие одному и тому же файлу, могут проходить по одному и тому же пути, а могут и по разным. Если на каком-то пути возникает перегрузка, пакетам разрешается выбирать различные возможные пути в существующей сети.

Сети с коммутацией пакетов были разработаны для преодоления слабых сторон сетей с коммутацией каналов, поскольку сети с коммутацией каналов были не очень эффективны для небольших сообщений.
- Более эффективен с точки зрения пропускной способности, поскольку отсутствует концепция резервирования канала.
- Минимальная задержка передачи.
- Более надежен, так как пункт назначения может обнаружить отсутствующий пакет.
- Более отказоустойчива, поскольку пакеты могут следовать по другому пути, если какой-либо канал не работает, в отличие от коммутации каналов.
- Рентабельно и сравнительно дешевле в реализации.
Недостаток коммутации пакетов по сравнению с коммутацией каналов:
- Коммутация пакетов не отправляет пакеты по порядку, в то время как коммутация каналов обеспечивает упорядоченную доставку пакетов, поскольку все пакеты следуют по одному и тому же пути.
- Поскольку пакеты неупорядочены, нам необходимо указать порядковые номера для каждого пакета.
- Сложность возрастает в каждом узле из-за возможности следовать по нескольким путям.
- Задержка передачи больше из-за перенаправления.
- Коммутация пакетов выгодна только для небольших сообщений, но для пакетных данных (больших сообщений) коммутация каналов лучше.
Режимы пакетной коммутации:
<р>1. Коммутация пакетов, ориентированная на соединение (виртуальный канал):
Перед началом передачи устанавливается логический путь или виртуальное соединение с использованием протокола сигнализации между отправителем и получателем, и все пакеты, принадлежащие этому потоку, будут следовать по этому заранее определенному маршруту. Идентификатор виртуального канала предоставляется коммутаторами/маршрутизаторами для уникальной идентификации этого виртуального соединения. Данные делятся на небольшие блоки, и все эти небольшие блоки добавляются с помощью порядковых номеров. В целом, здесь происходят три этапа: фаза установки, передачи данных и демонтажа.

Вся адресная информация передается только на этапе настройки. Как только маршрут к месту назначения обнаружен, запись добавляется в таблицу коммутации каждого промежуточного узла. Во время передачи данных заголовок пакета (локальный заголовок) может содержать такую информацию, как длина, отметка времени, порядковый номер и т. д.
Коммутация, ориентированная на соединение, очень полезна в коммутируемых глобальных сетях. Некоторые популярные протоколы, использующие подход виртуальной коммутации каналов, — это X.25, Frame-Relay, ATM и MPLS (многопротокольная коммутация по меткам).
<р>2. Коммутация пакетов без установления соединения (датаграмма).
В отличие от коммутации пакетов, ориентированной на установление соединения, при коммутации пакетов без установления соединения каждый пакет содержит всю необходимую адресную информацию, такую как адрес источника, адрес получателя, номера портов и т. д. При коммутации пакетов с дейтаграммой каждый пакет лечили самостоятельно. Пакеты, принадлежащие одному потоку, могут идти по разным маршрутам, поскольку решения о маршрутизации принимаются динамически, поэтому пакеты, прибывающие к месту назначения, могут быть не в порядке. В отличие от виртуальных цепей, в нем нет фазы установки соединения и отключения.
Доставка пакетов при коммутации пакетов без установления соединения не гарантируется, поэтому надежная доставка должна обеспечиваться конечными системами с использованием дополнительных протоколов.

При отправке пакета из A в B возможны задержки, так как это сеть Store and Forward.

Последние минуты матча Германия против Мексики были захватывающими для всех в зале. Раздался громкий стон, когда Мануэль Нойер пошел на угловой, учитывая его репутацию не только вратаря. А когда прозвучал финальный свисток, принесший Мексике неожиданную и вполне заслуженную победу над обладателями Кубка мира, президент Панамы Хуан Карлос Варела возглавил аплодисменты, а затем обменялся рукопожатием с другими в баре Сочи, наблюдавшими вместе с ним.

Приподнятое настроение Варелы можно понять. В Панаме знают, что если Мексика, их товарищи по группе в североамериканской квалификационной зоне, могут провернуть неудачу, у них должен быть шанс против Бельгии.

Капитан сборной Панамы Роман Торрес позирует с болельщиком во время тренировки команды. Станислав Красильников\ТАСС через Getty Images

Несмотря на то, что в центре внимания находится Исландия — и вполне заслуженно, страна с населением 300 000 человек, выступающих в международном футболе намного выше своего веса, – Панама тоже не так уж плоха: с населением от 3,5 до 4 миллионов человек они тоже дебютируют на чемпионате мира. И это была немалая поездка.

Большими фаворитами в этом матче являются бельгийцы, а также ставки на победу в турнире, но первые матчи не были слишком благоприятными для фаворитов: помимо поражения Германии, Испания, Франция, Аргентина и Бразилия все выиграли. рисовать. А еще есть погода: в Сочи жарко и влажно, главная причина, по которой Бразилия сделала его своей базой для проведения чемпионата мира. Испания и Португалия сыграли здесь вничью 3:3, и сомнительно, что слишком много североевропейских команд смогли бы сохранить такую интенсивность.

Большинство людей мало что знает о Панаме, кроме канала и шляпы. В понедельник в душном Сочи они надеются стать самостоятельными звездами. Автор фотографии должен читаться RODRIGO ARANGUA/AFP/Getty Images

У Панамы уже есть один брейк на пути к квалификации: чтобы выиграть финальный квалификационный матч против Коста-Рики, чтобы напрямую попасть на чемпионат мира, они сравняли счет, забив "гол", когда мяч не пересек линию. . Затем они выиграли еще один и забронировали билеты в Россию.

На самом деле команда выполняла обещание, данное в апреле прошлого года. Именно тогда они потеряли своего полузащитника Амилкара Энрикеса, застреленного в результате того, что расследуется как преступление на почве личной вражды. Энрикесу было 33 года, он был на закате своей карьеры, и у него был шанс сыграть на чемпионате мира. Подобный инцидент может поднять или сломить командный дух, и в случае с Панамой это, похоже, дало им чувство цели. «Это придало нам больше сил», — сказал полузащитник Анибал Годой корреспонденту ESPN Джеффу Карлайлу. "Это дало нам цель попасть на чемпионат мира, осуществить свою мечту."

Футбол — не самый популярный вид спорта в Панаме. эта честь достается бейсболу. И, пожалуй, самый известный панамец — боксер: Роберто Дюран. На самом деле большинство людей мало что знают о Панаме, кроме канала и шляпы (которая на самом деле не из этой страны). В понедельник в душном Сочи Los Canaleros (даже их прозвище отсылает к каналу) надеются стать самостоятельными звездами.

Большинство выдающихся писателей двадцатого века, т. е. авторов книг, эссе, репортажей, по-видимому, также в буквальном смысле написали много писем. Иногда их переписка отражает и формирует их «настоящую» письменную работу; иногда он кажется собранным в виде самой книги. И то, и другое верно в случае с Джорджем Оруэллом, том писем которого под редакцией Питера Дэвисона вышел в прошлом году. В нем мы находим это послание, также полностью опубликованное в The Daily Beast, отправленное в 1944 году некоему Ноэлю Уиллметту, который спросил, «действительно ли тоталитаризм, поклонение лидеру и т. д. находятся на подъеме», учитывая, «что они не очевидно растет в [Англии] и США»:

Должен сказать, я верю или опасаюсь, что в мире в целом таких вещей становится все больше. Гитлер, без сомнения, скоро исчезнет, но только за счет усиления (а) Сталина, (б) англо-американских миллионеров и (в) всяких мелких фюреров типа де Голля. Все национальные движения повсюду, даже те, которые берут начало в сопротивлении немецкому господству, похоже, принимают недемократические формы, группируются вокруг какого-то сверхчеловеческого фюрера (Гитлер, Сталин, Салазар, Франко, Ганди, де Валера — разные примеры) и принять теорию о том, что цель оправдывает средства. Повсюду мировое движение, кажется, идет в направлении централизованной экономики, которую можно заставить «работать» в экономическом смысле, но которая не организована демократически и которая склонна к установлению кастовой системы. Вместе с этим приходят ужасы эмоционального национализма и тенденция не верить в существование объективной истины, потому что все факты должны соответствовать словам и пророчествам какого-нибудь непогрешимого фюрера. Уже история в некотором смысле перестала существовать, т.е. нет такой вещи, как история нашего времени, которая могла бы быть общепризнанной, и точные науки подвергаются опасности, как только военная необходимость перестает держать людей в тонусе. Гитлер может сказать, что войну начали евреи, и если он выживет, это станет официальной историей. Он не может сказать, что два плюс два — пять, потому что для целей, скажем, баллистики должно получиться четыре. Но если наступит мир, которого я боюсь, мир двух или трех великих сверхдержав, неспособных победить друг друга, два и два могут стать пятью, если того пожелает фюрер. Это, насколько я вижу, то направление, в котором мы действительно движемся, хотя, конечно, процесс обратим.

Что касается сравнительной неприкосновенности Британии и США. Что бы ни говорили пацифисты и т. д., мы еще не стали тоталитарными, и это очень обнадеживающий симптом. Как я объяснял в своей книге Лев и единорог, я очень глубоко верю в англичан людей и в их способность централизовать свою экономику, не нарушая при этом свободы. Но надо помнить, что Британию и США особо не судили, они не знали ни поражений, ни тяжелых страданий, и есть плохие симптомы, уравновешивающие хорошие. Начнем с общего безразличия к упадку демократии. Вы понимаете, например, что никто в Англии моложе 26 лет теперь не имеет права голоса и что, насколько можно видеть, огромной массе людей этого возраста наплевать на это? Во-вторых, интеллектуалы более тоталитарны в мировоззрении, чем простые люди. В целом английская интеллигенция выступила против Гитлера, но только ценой принятия Сталина.Большинство из них вполне готовы к диктаторским методам, тайной полиции, систематической фальсификации истории и т. д., лишь бы чувствовали, что это на «нашей» стороне. Действительно, заявление о том, что у нас нет фашистского движения в Англии, в значительной степени означает, что молодежь в данный момент ищет своего фюрера в другом месте. Нельзя быть уверенным, что это не изменится, и нельзя быть уверенным, что простой народ через десять лет не будет думать так, как думают сейчас интеллектуалы. Я надеюсь, что они этого не сделают, я даже верю, что они не будут, но если это так, то это будет ценой борьбы. Если кто-то просто провозглашает, что все к лучшему, и не указывает на зловещие симптомы, он просто помогает приблизить тоталитаризм.

Вы также спрашиваете, считаю ли я, что мировая тенденция склоняется к фашизму, почему я поддерживаю войну. Это выбор зол — мне кажется, почти каждая война такова. Я достаточно знаю британский империализм, чтобы не любить его, но я бы поддержал его против нацизма или японского империализма как меньшего зла. Точно так же я поддержал бы СССР против Германии, потому что я думаю, что СССР не может полностью избежать своего прошлого и сохраняет достаточно первоначальных идей революции, чтобы сделать его более обнадеживающим явлением, чем нацистская Германия. Я думаю и думал с тех пор, как началась война, в 1936 году или около того, что наше дело лучше, но мы должны продолжать делать его лучше, что предполагает постоянную критику.

Искренне Ваш,
Гео. Оруэлл

Три года спустя Оруэлл напишет 1984. Через два года после этого он будет опубликован и привлечет внимание поколений как, возможно, самое красноречивое вымышленное заявление против мира, сведенного к сверхдержавам, пропитанного «эмоциональным национализмом», уступчивого «диктаторским методам, тайной полиции» и систематической фальсификация истории», и пронизан готовностью «не верить в существование объективной истины, потому что все факты должны соответствовать словам и пророчествам какого-то непогрешимого фюрера». Теперь, когда вам хочется прочитать роман снова или даже впервые, просмотрите нашу коллекцию ресурсов, связанных с 1984, в которую входят электронная книга, аудиокнига, обзоры и даже радиопостановки и адаптации комиксов произведений Оруэлла.

Если вы хотите подписаться на бесплатную рассылку новостей Open Culture по электронной почте, найдите ее здесь.

Если вы хотите поддержать миссию Open Culture, подумайте о том, чтобы сделать пожертвование на наш сайт. Трудно полагаться на рекламу на 100%, и ваш вклад поможет нам продолжать предоставлять лучшие бесплатные культурные и образовательные материалы учащимся во всем мире. Вы можете внести свой вклад через PayPal, Patreon, Venmo (@openculture) и Crypto. Спасибо!

Похожий контент:

Колин Маршалл ведет и выпускает Блокнот о городах и культуре, а также пишет эссе о городах, Азии, кино, литературе и эстетике. Он работает над книгой о Лос-Анджелесе, A Los Angeles Primer. Подпишитесь на него в Твиттере: @colinmarshall или на его новой странице в Facebook.

Читайте также: