Исследование показало, что чат-боты с искусственным интеллектом со временем становятся все менее надежными, вызывая опасения по поводу точности

Новое исследование, опубликованное в журнале Nature Scientific Journal, свидетельствует о том, Что чат-боты с искусственным интеллектом со временем допускают все больше ошибок из-за самоподкрепления неточностей, что вызывает опасения по поводу их надежности. Исследователи подчеркивают проблему «галлюцинаций ИИ» и растущую потребность пользователей в проверке ответов чатботов.

Недавняя научная работа под названием «Более крупные и обучаемые языковые модели становятся менее надежными», опубликованная в научном журнале Nature, Пролила свет на растущую проблему того, что чат-боты ИИ становятся менее точными по мере выпуска новых моделей. Исследование, проведенное Лексином Чжоу и ее командой, показало, что системы ИИ склонны со временем все чаще генерировать неверную информацию — явление, известное как «галлюцинации ИИ».

По словам Чжоу, эти галлюцинации возникают потому, что модели ИИ разработаны таким образом, что приоритет отдается генерации правдоподобных ответов, часто в ущерб точности. Со временем эта тенденция приводит к самоусиливающемуся циклу, когда неверная информация становится частью процесса обучения модели. Эта проблема усугубляется практикой использования старых моделей для обучения новых версий, что в конечном итоге приводит к тому, что исследователи называют «крахом модели».

Доверие потребителей под угрозой

По мере того как чат-боты с искусственным интеллектом получают широкое распространение, растет и доверие потребителей к этим инструментам. Однако исследование предупреждает, что пользователи должны быть осторожны, полагаясь на информацию, генерируемую ИИ. Матье Рой, редактор и писатель, подчеркивает важность проверки фактов, выдаваемых ИИ:

«Хотя ИИ может быть полезен для решения различных задач, пользователям крайне важно проверять информацию, которую они получают от моделей ИИ. Это особенно важно для чат-ботов, работающих с клиентами, где проверка фактов является более сложной задачей».

Рой подчеркнул тревожный аспект использования чатботов: зачастую нет иного способа проверить информацию, кроме как спросить самого чатбота, что может увековечить неточности.

Галлюцинации ИИ: растущая проблема

Галлюцинации ИИ, когда модели дают вроде бы правильные, но на самом деле неверные ответы, становятся все более распространенной проблемой. В феврале 2024 года платформа искусственного интеллекта Google подверглась общественной критике за создание исторически неточных изображений, включая оскорбительное изображение цветного населения и искажение исторических фигур.

Чтобы смягчить последствия таких галлюцинаций, лидеры индустрии, такие как генеральный директор Nvidia Дженсен Хуанг, Предложили такие решения, как требование к моделям ИИ проводить исследования и предоставлять источники для своих ответов. Однако, несмотря на все эти усилия, галлюцинации ИИ остаются трудноразрешимой проблемой.

Совсем недавно генеральный директор HyperWrite AI Мэтт Шумер представил новую модель 70B, в которой используется «Reflection-Tuning» — техника, позволяющая ИИ учиться на своих ошибках, анализируя и корректируя свои ответы. Станет ли этот метод долгосрочным решением проблем галлюцинаций ИИ, пока неизвестно.

Наш творец. Создает удивительные коллекции NFT! Поддержите редакцию - Bitcoin_Man / Who Is Pepe

Binance Free $100 (эксклюзив): Воспользуйтесь этой ссылкой, чтобы зарегистрироваться и получить 100 долларов США бесплатно и 10% скидки на комиссию Binance Futures за первые месяцы (Правила и условия). 

Bitget - Воспользуйтесь этой ссылкой. Воспользуйтесь Центром вознаграждений и выиграйте до 5027 USDT!  (Обзор)

Регистрация БЕЗ РИСК САНКЦИЙ на бирже Bybit: Воспользуйтесь этой ссылкой все возможные скидки на комиссионные и бонусы до $30 030 включительно) Если вы регистрируетесь через приложение, то при регистрации просто введите в поле ссылку: WB8XZ4 - (руководство)

Источник — Переведено и опубликовано ✓