💡 Эпикурейство против ИИ: как прогнозные алгоритмы угрожают свободе воли
Развитие искусственного интеллекта ставит перед обществом ряд важных этических проблем, в том числе вопрос о том, насколько широко можно использовать прогнозы, полученные с помощью нейросетей и анализа «больших данных». В теории эти технологии могут с большой точностью предсказать поведение людей, на практике такие прогнозы сами по себе могут стать инструментом манипуляций. Книга доцента Института этики в сфере ИИ Оксфордского университета Кариссы Велиз «Пророчество. Предсказание, власть и борьба за будущее: от древних оракулов до искусственного интеллекта» (Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI) — одна из первых попыток анализа этой проблемы.
➡️ Карисса Велиз исследует, как попытки предсказывать будущее на протяжении истории были не просто поиском знаний, а инструментом власти. Она показывает, что оракулы древности, астрологи Средневековья, а сегодня — технологические компании и алгоритмы ИИ — выполняют одну и ту же функцию: используют прогнозы, чтобы укреплять своё влияние, редуцировать ответственность и ограничивать способность людей самим формировать свою судьбу.
↗️ Автор приводит конкретные примеры того, как ИИ становится самостоятельным фактором, влияющим на жизни людей. Например, она описывает такой психологический и социальный феномен, как самоисполняющиеся пророчества. Модель искусственного интеллекта помечает соискателя как неподходящего для трудоустройства, а все компании используют похожее программное обеспечение. Соискатель остается без работы и отсутствие работы искусственно подтверждает исходные ошибочные данные, превращая вероятностные предположения в системную дискриминацию.
Еще одно когнитивное искажение — ловушка индуктивной определенности. Технологические компании наживаются на страхе людей перед неизвестным будущим, представляя алгоритмическую вероятность как единственный возможный вариант событий. Велиз возражает, что прогнозы, основанные на данных, полностью опираются на прошлый опыт и ошибочное предположение, что завтрашний день будет в точности повторять вчерашний и не появится принципиально новых факторов, способных существенно или полностью изменить правила игры.
❗️ Велиз предупреждает, что, собирая все больше персональных данных для автоматизации принятия решений по ипотечным кредитам, медицинскому
обслуживанию и трудоустройству, общество отдает свободу выбора людей в руки подконтрольного крупным корпорациям программного обеспечения. Более того, правила работы этих алгоритмов чаще всего являются непрозрачными, что оставляет их владельцам свободу для различных манипуляций.
Велиз утверждает, что вместо того, чтобы стремиться к сбору все большего количества данных для прогнозирования будущего, здоровое и свободное общество должно сосредоточиться на повышении устойчивости к неизбежным изменениям. Книга, повторят некоторые тезисы эпикурейской философии, призывая людей вернуть себе свободу воли и принять неопределенность, которая, в определенном смысле, и есть свобода человека.
📍 The New York Times в своей рецензии пишет, что «Пророчество» — это в том числе книга о растущем неравенстве: обычные люди в итоге переплачивают за такси и авиабилеты и торгуются со страховыми компаниями из-за отказов в выплатах, в то время как технологические миллиардеры строят центры обработки данных для ИИ и роскошные бункеры, чтобы пережить грядущую климатическую катастрофу, ими же и вызванную. Книга вошла в лонг-лист бизнес-книг года по версии Financial Times.
#Книги
✅ Подписывайтесь на «Новое в менеджменте» в Max!
Развитие искусственного интеллекта ставит перед обществом ряд важных этических проблем, в том числе вопрос о том, насколько широко можно использовать прогнозы, полученные с помощью нейросетей и анализа «больших данных». В теории эти технологии могут с большой точностью предсказать поведение людей, на практике такие прогнозы сами по себе могут стать инструментом манипуляций. Книга доцента Института этики в сфере ИИ Оксфордского университета Кариссы Велиз «Пророчество. Предсказание, власть и борьба за будущее: от древних оракулов до искусственного интеллекта» (Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI) — одна из первых попыток анализа этой проблемы.
➡️ Карисса Велиз исследует, как попытки предсказывать будущее на протяжении истории были не просто поиском знаний, а инструментом власти. Она показывает, что оракулы древности, астрологи Средневековья, а сегодня — технологические компании и алгоритмы ИИ — выполняют одну и ту же функцию: используют прогнозы, чтобы укреплять своё влияние, редуцировать ответственность и ограничивать способность людей самим формировать свою судьбу.
↗️ Автор приводит конкретные примеры того, как ИИ становится самостоятельным фактором, влияющим на жизни людей. Например, она описывает такой психологический и социальный феномен, как самоисполняющиеся пророчества. Модель искусственного интеллекта помечает соискателя как неподходящего для трудоустройства, а все компании используют похожее программное обеспечение. Соискатель остается без работы и отсутствие работы искусственно подтверждает исходные ошибочные данные, превращая вероятностные предположения в системную дискриминацию.
Еще одно когнитивное искажение — ловушка индуктивной определенности. Технологические компании наживаются на страхе людей перед неизвестным будущим, представляя алгоритмическую вероятность как единственный возможный вариант событий. Велиз возражает, что прогнозы, основанные на данных, полностью опираются на прошлый опыт и ошибочное предположение, что завтрашний день будет в точности повторять вчерашний и не появится принципиально новых факторов, способных существенно или полностью изменить правила игры.
❗️ Велиз предупреждает, что, собирая все больше персональных данных для автоматизации принятия решений по ипотечным кредитам, медицинскому
обслуживанию и трудоустройству, общество отдает свободу выбора людей в руки подконтрольного крупным корпорациям программного обеспечения. Более того, правила работы этих алгоритмов чаще всего являются непрозрачными, что оставляет их владельцам свободу для различных манипуляций.
Велиз утверждает, что вместо того, чтобы стремиться к сбору все большего количества данных для прогнозирования будущего, здоровое и свободное общество должно сосредоточиться на повышении устойчивости к неизбежным изменениям. Книга, повторят некоторые тезисы эпикурейской философии, призывая людей вернуть себе свободу воли и принять неопределенность, которая, в определенном смысле, и есть свобода человека.
📍 The New York Times в своей рецензии пишет, что «Пророчество» — это в том числе книга о растущем неравенстве: обычные люди в итоге переплачивают за такси и авиабилеты и торгуются со страховыми компаниями из-за отказов в выплатах, в то время как технологические миллиардеры строят центры обработки данных для ИИ и роскошные бункеры, чтобы пережить грядущую климатическую катастрофу, ими же и вызванную. Книга вошла в лонг-лист бизнес-книг года по версии Financial Times.
#Книги
✅ Подписывайтесь на «Новое в менеджменте» в Max!