Новости

» » Насколько опасен искусственный интеллект? Шесть главных проблем

Насколько опасен искусственный интеллект? Шесть главных проблем

Недавно мы рассказывали о том, что Илон Маск, Стив Возняк и другие авторитетные персоны из мира IT выступают против столь активного развития искусственного интеллекта. Свой скептицизм в отношении ИИ они объясняют в том числе тем, что даже сами создатели не до конца понимают современные системы на базе искусственного интеллекта и их потенциальные риски. И сегодня мы предлагаем разобрать в том, насколько опасен искусственный интеллект и действительно ли за системами на машинном обучении будущее.

Признаемся сразу, что трудно понять, насколько опасен искусственный интеллект, поскольку он невидим и действует по собственной воле. Но ясно одно: мы движемся к будущему, в котором искусственный интеллект сможет выполнять больше, чем одна или две задачи.

Спустя несколько месяцев после выпуска ChatGPT разработчики начали выпускать различные системы на основе ИИ, которые могут выполнять реальные задачи. На данный момент один из самых популярных инструментов — это AutoGPT, который, как выяснили любознательные пользователи, способен делать все — от заказа пиццы до запуска веб-сайта электронной коммерции. Чат-боты уже могут сами давать себе инструкции и выполнять реальные задачи. Но что больше всего беспокоит скептиков ИИ, так это то, что отрасль развивается быстрее, чем законодательство или даже средний человек может за ней угнаться.

Некоторые скептично настроенные эксперты уверены, что сверхразумный искусственный интеллект может привести к краху человеческой цивилизации. Так, американский специалист по искусственному интеллекту Элиезер Юдковский открыто выступает против таких разработок, поскольку уверен, что наиболее вероятным результатом активного развития будет создание искусственного интеллекта, который не будет делать то, что хочет человек и не станет заботиться ни о пользователях, ни о разумной жизни в целом. 

«Если кто-то создаст слишком мощный ИИ в нынешних условиях, я ожидаю, что вскоре после этого умрет каждый представитель человеческого рода и вся биологическая жизнь на Земле», — заявляет Юдковский.

Единственным выходом, по его мнению, должно стать прекращение развития ИИ до тех пор, пока мы не сможем привести искусственный интеллект в соответствие с человеческими ценностями.

Так чем же на самом деле опасен искусственный интеллект? На самом деле, об этих опасностях говорили еще десятилетия назад. Так, в вышедшем в прокат в далеком 1982 году фильме «Бегущий по лезвию» была представлена идея существ с искусственным интеллектом, которые способны выражать эмоции и копировать поведение человека. И хотя на данный момент такой ИИ все еще является фантастикой, технологии достигли того уровня, когда становится трудно отличить человека от компьютера. Достаточно взглянуть на диалоговый искусственный интеллект, представленный чат-ботами вроде ChatGPT и Bing Chat.
Одна из главных опасностей, которую таит в себе искусственный интеллект, заключается в том, что чат-боты на основе ИИ могут вводить в заблуждение и манипулировать и при этом казаться реальными и убедительными.

Недавно Microsoft внесла в работу своего чат-бота Bing Chat ограничения, чтобы система не говорила о себе в беседе с пользователями. Но за то короткое время, пока возможности Bing Chat были неограничены, многие пользователи поверили, что у них установилась настоящая эмоциональная связь с чат-ботом. 

Еще одна проблема ИИ — это дезинформация. Даже самые последние модели вроде OpenAI GPT-4 делают ошибки, выдавая неверную информацию за правду, особенно когда речь касается таких тем, как математика и программирование.

По мнению экспертов, без достаточно разнообразных обучающих данных искусственный интеллект будет давать предвзятые ответы. 

Вот некоторые из главных опасностей, связанных с активным развитием искусственного интеллекта:

— Разрушительные автономные системы: если ИИ-системы станут способными действовать автономно без должного контроля или ограничений, возникнет риск их злоупотребления или неправильного использования. Непредсказуемые автономные системы могут представлять угрозу для безопасности и приводить к нежелательным последствиям.

— Потеря рабочих мест: автоматизация искусственного интеллекта могут привести к замещению работников роботами и компьютерными системами. Возможность потери рабочих мест и растущая безработица являются серьезными социальными и экономическими проблемами.

— Нарушение приватности и конфиденциальности: активное использование ИИ ведет к сбору и анализу больших объемов данных. Нарушение приватности и неправильное использование персональных данных могут повлечь серьезные последствия, такие как утечка личной информации, манипуляции или дискриминация.

— Потенциальное оружие: ИИ-технологии могут быть использованы для разработки и применения новых видов вооружений, включая автономные системы вооружения. Неправильное использование или случайное включение таких систем может привести к серьезным военным конфликтам или военным ошибкам.

— Беспристрастность: ИИ-системы основаны на алгоритмах, которые могут быть подвержены предвзятости. Если эти системы принимают решения на основе искаженных данных или неправильных представлений, это может привести к систематическому неравноправию и ухудшению существующих социальных проблем.

— Суперинтеллект и контроль: Если ИИ достигнет уровня суперинтеллекта, то возникает вопрос о том, как обеспечить его контроль и избежать возможного бегства ИИ, когда он становится непредсказуемым или неподконтрольным.