Мастерская

Топ-менеджер Google предупредил о «галлюцинациях» у чат-ботов с ИИ

Основанные на алгоритмах искусственного интеллекта чат-боты могут представлять угрозу для пользователей в силу своего несовершенства — у них случаются своего рода «галлюцинации», заявил старший вице-президент компании Google и глава подразделения Google Search Прабхакар Рагхаван (Prabhakar Raghavan) в интервью немецкой газете Welt am Sonntag.

Источник изображения: blog.google

«Разновидность ИИ, о которой мы сейчас говорим, иногда приходит к тому, что мы называем галлюцинациями. <..> Это выражается в том, что машина даёт убедительный, но полностью выдуманный ответ», — заявил господин Рагхаван. И добавил, что одной из фундаментальных задач является сведение числа таких инцидентов к минимуму.

Google впервые начала проигрывать на поле технологий для веб-поиска после того, как Microsoft за $10 млрд заручилась поддержкой компании OpenAI, которая недавно представила революционный проект ChatGPT. Языковая ИИ-модель в удивительно человечной манере отвечает на запросы: дошло до того, что чат-бота пригласили на собеседование, а ещё он написал дипломную работу.

Поисковый гигант на днях представил собственного чат-бота Bard, которого не смогли уберечь от «галлюцинации» даже в рекламном ролике — он дал явно недостоверный ответ на вопрос по астрономии. Это вызвало недовольство научного сообщества, а акции владеющего Google холдинга Alphabet рухнули на 8 %. «Мы, конечно, осознаём срочность [решения проблемы], но также ощущаем большую ответственность. И определённо не хотим вводить общественность в заблуждение», — добавил глава Google Search.

Источник

Статьи по теме

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

два × один =

Кнопка «Наверх»