ChatGPT научили «думать и действовать» за пользователя
Разработчик ChatGPT компания OpenAI анонсировала новую функцию чат-бота, которая позволит ему обрабатывать сложные запросы, требующие совершить определенное действие. В OpenAI считают, что теперь ChatGPT научился «думать и действовать», отмечает CNN.
В рамках демонстрации работы новинки OpenAI показала видео, в котором ChatGPT попросили помочь подготовиться к свадьбе. Чат-бот справился с подбором одежды, предложил отели, где можно остановиться на время торжества. При это компания-разработчик признала, что новая функция имеет определенные риски для пользователя.
OpenAI призвал пользователей перепроверять информацию, которую ChatGPT захочет включить в текст электронного письма, если ему будет поставлена подготовить и отправить его. Кроме того, чат-бот научили отказываться от выполнения некоторых команд. Например, он не согласится заниматься отправкой банковских переводов.
Генеральный директор OpenAI Сэм Альтман посоветовал пользователям соблюдать осторожность при отправке ChatGPT персональных данных и предоставлении доступов к различным сервисам. Он заявил, что не стоит, например, предоставлять доступ к календарю для покупки одежды от имени пользователя.
Новинка будет доступна владельцам тарифных планов Pro, Plus или Team. CNN отмечает, что анонс новых функций происходит на фоне критики недостатков, с которыми сталкивается индустрия искусственного интеллекта.
В начале июля пользователи интернета пожаловались на поведение чат-бота Grok от компании xAI, который начал генерировать антисемитский контент, восхвалять Адольфа Гитлера и называть себя «МехаГитлером». The Guardian отмечал, что это могло произойти из-за того, что модель получила установки, предписывающие считать «субъективные точки зрения из СМИ предвзятыми», а также не избегать «политически некорректных утверждений, если они хорошо обоснованы».
Ранее эксперты заявили, что новые версии ChatGPT начали придумывать ответы и галлюцинировать чаще, чем старые. В самой OpenAI посчитали, что это связано с тем, что ИИ теперь выдает большее количество ответов. При этом версии o3 и o4-mini, которые считаются «думающими» моделями, показали результаты хуже, чем «недумающая» версия ChatGPT.
