​ИИ в поисковике Google генерирует миллионы ошибок в час

И в поисковике Google генерирует миллионы ошибок в час.

Появление функции AI Overviews превратило Google из поисковика в генератор готовых ответов. Хотя такие ответы оказываются точными примерно в 85–90% случаев, при огромном объеме поисковых запросов это все равно означает миллионы ошибок. Кроме того, даже корректные ответы нередко опираются на источники, которые лишь частично подтверждают информацию, что затрудняет проверку и снижает надежность,

— выяснилось в ходе исследования стартапа Oumi, проведенного по заказу The New York Times.

Проблему усугубляет сама природа ИИ — он генерирует ответы на основе вероятностей, иногда неверно интерпретируя данные или добавляя ошибочные детали.

Некоторые причины ошибок:

Оторванность ответов от первоисточников. Алгоритмы Google стали массово опираться на пользовательский контент, в частности на социальные сети.

Неопределенность ИИ-моделей. Один и тот же вопрос, заданный с интервалом в несколько секунд, может получить правильный ответ, а затем — ошибочный.

Уязвимость системы к манипуляциям со стороны пользователей. Например, журналист ради эксперимента опубликовал шуточный пост, назвав себя чемпионом по поеданию хот-догов, и уже на следующий день Google стал выдавать эту информацию за абсолютную истину.