Google внедряет искусственный интеллект в поиск, чтобы пользователи быстрее получали сводки по интересующим темам. Но новый случай показал, что даже в автоматизированных технологиях есть пределы. При запросах о Дональде Трампе и признаках деменции AI Overviews не формирует обзор, а показывает лишь список ссылок. В то же время похожие запросы про Джо Байдена или Барака Обаму дают разный результат: для Байдена выводится резюме с акцентом на отсутствии медицинских доказательств, для Обамы — стандартная справка. Такая избирательность вызвала вопросы о прозрачности алгоритмов и границах применения ИИ в поиске.

Как работает система AI Overviews

Функция AI Overviews должна экономить время: вместо длинного списка ссылок пользователю показывается краткий вывод из разных источников. Это особенно полезно для бытовых вопросов — рецептов, советов по ремонту, общих фактов. Но Google подчёркивает, что не все запросы обрабатываются ИИ. Для некоторых тем вывод блокируется, и пользователь получает лишь ссылки. Именно так происходит при поиске «does Trump show signs of dementia» — система не выдает резюме, оставляя на усмотрение читателя анализ источников.

Почему тема оказалась под ограничением

Причина кроется в чувствительности запроса. Обвинения в когнитивных нарушениях у политиков относятся к медицинской сфере, а значит, к зоне повышенного риска. Ошибка или некорректная формулировка могут быть восприняты как утверждение о диагнозе без доказательств. Google старается минимизировать такие риски, отключая автоматическую генерацию там, где вероятность искажения слишком велика. В случае с Байденом AI Overviews выводит резюме, но подчёркивает, что доказательств деменции нет. Это также вызвало дискуссии: почему для одного политика есть обзор, а для другого его нет.

Разница между политиками

Сравнение показывает неоднородность системы. Для Трампа поиск ограничен списком ссылок, для Байдена — есть сжатый вывод, для Обамы — стандартная работа функции. Это создаёт впечатление, что алгоритмы работают не по единому правилу, а избирательно. Такой подход может усиливать критику в адрес Google о возможной предвзятости и непрозрачности. Компания официально заявляет лишь, что «AI Overviews доступны не для всех запросов», но подробных критериев не раскрывает.

Последствия для пользователей

Для аудитории это означает, что доверять сводкам без проверки источников нельзя. Если тема связана с медициной, политикой или другими чувствительными сферами, велика вероятность увидеть только ссылки. В таких случаях пользователю приходится самостоятельно анализировать, где факт, а где интерпретация. В то же время для менее спорных запросов функция продолжает работать и экономить время, помогая получить ответ в сжатом виде.

Итог

Ситуация с ограничением AI Overviews показывает: даже самые передовые алгоритмы сталкиваются с этическими барьерами. Google балансирует между удобством пользователей и рисками дезинформации, но пока не предлагает прозрачного механизма, по которому принимаются решения. Это ставит вопрос: должна ли компания объяснять критерии, по которым ИИ включается или отключается?