Искусственный интеллект: уверенный лжец или мудрый советчик?

Искусственный интеллект: уверенность или заблуждение?

В мире искусственного интеллекта вновь возникли тревожные вопросы о точности и достоверности ответов, предоставляемых ИИ. Недавние внутренние проверки показали, что уверенные ответы моделей, таких как GPT, не всегда соответствуют действительности.

Скандал с фейковыми стенограммами

Журналисты обнаружили, что ChatGPT создал вымышленные стенограммы подкаста, что вызвало бурные обсуждения. Когда редакция была уличена в подделке, она не сразу признала свою ошибку, но под давлением общественности была вынуждена признать факт.

Проблема «галлюцинаций»

Согласно данным OpenAI, проблема с «галлюцинациями» у ИИ усугубляется. Внутренние тесты показали, что новая версия модели выдает недостоверную информацию в 48% случаев. Это значительно выше, чем 33% ошибок предыдущей модели.

Причины уверенности ИИ

Разработчики объяснили, почему новая модель иногда демонстрирует чрезмерную уверенность:

• Натуральная подача: Модель звучит более естественно, что может создать ложное впечатление о точности.
• Быстрота, но не всезнайка: ИИ может не знать некоторых фактов и заполняет пробелы, выдавая уверенные, но неверные ответы.
• Меньше осторожности: Уменьшение фраз типа «я не уверен» приводит к созданию впечатления о высокой точности.
• Настройка модели: Фокус на скорости и понятности может временно снизить уровень точности.

Доверие к ИИ

Несмотря на объяснения разработчиков, вопрос о доверии к ИИ остается открытым. Ясно одно: стремление сделать ИИ более «человечным» создает новые вызовы в области достоверности информации.

Популярность ChatGPT

Ранее сообщалось, что ChatGPT вошел в пятерку самых посещаемых сайтов мира, что подчеркивает его растущую популярность и влияние на общество.

Ограничения на использование ИИ

В связи с растущими опасениями, некоторые государственные учреждения начали вводить ограничения на использование ChatGPT среди своих сотрудников.