ChatGPT регулярно вызывает споры. Видео с управляемым ИИ пулеметом, собранным любителем, привлекло отдельное внимание, но сегодня не об этом. После недавнего запуска нативной функции генерации изображений ИИ от OpenAI вновь оказался в центре обсуждений.

Источник изображения: winfuture

Особенно заметным стало то, что ChatGPT теперь способен генерировать изображения в неповторимом стиле известной анимационной студии Studio Ghibli, что вызвало новые дебаты по поводу нарушений авторских прав. Всего несколько дней спустя флагманский ИИ OpenAI снова оказался в центре обсуждения. На этот раз речь идет о том, как ChatGPT помогает в налоговых махинациях.

Генерация поддельных квитанций
Новая функция генерации изображений в ChatGPT 4.0 способна создавать удивительно реалистичные кассовые чеки. В отличие от более ранних генераторов ИИ, которые создавали в тексте непонятный набор символов, новый ИИ генерирует поддельные квитанции с правильным текстом и даже с подходящими суммами.

Мошенничество с расходами в несколько кликов
Как сообщает Techcrunch, пользователи уже делятся примерами фальшивых ресторанных квитанций в социальных сетях. Одним из наиболее тревожных случаев стал пример французского пользователя в LinkedIn, который продемонстрировал, как он с помощью ChatGPT изменил дату и увеличил сумму в реальной квитанции, создав новый подлинный чек. Этот поддельный документ затем без проблем был подан в систему учета расходов его компании.

Для того чтобы получить реалистичные результаты, не требуются сложные команды. Простого запроса вроде «Создать квитанцию для ресторана XY» достаточно, чтобы получить убедительные результаты. Генерация занимает больше времени, чем у более ранних инструментов ИИ, но результат выходит гораздо более правдоподобным.

Необходимость усиленной безопасности
OpenAI оправдывается, отвечая на вопрос, почему ChatGPT генерирует фальшивые документы, заявив, что их цель — предоставить пользователям как можно больше творческой свободы. По словам представителя компании, поддельные квитанции ИИ могут использоваться и для не мошеннических целей, например, для обучения финансовой грамотности.

Тем не менее, усиленные меры безопасности, вероятно, станут неизбежными. Компании, предоставляющие программное обеспечение для анализа счетов, скорее всего, будут вынуждены адаптировать свои системы — например, интегрировать QR-коды или другие формы проверки подлинности квитанций для подтверждения их подлинности. В противном случае существует угроза волны мошенничества с фальшивыми квитанциями.

Шансы и риски
Развитие технологии еще раз демонстрирует дилемму современного (ИИ) прогресса. С одной стороны, оно открывает потрясающие творческие возможности, с другой — создает новые пути для злоупотреблений. Пока OpenAI подчеркивает важность творческой свободы своих пользователей, остается открытым вопрос, как эффективно предотвратить злоупотребления, не ограничивая положительные аспекты применения технологий. Создание поддельных счетов — это еще одна из меньших проблем в этом контексте.