ChatGPT обвинили в предоставлении недостоверной информации о лекарствах

Исследователи из Университета Лонг-Айленд в США обвинили бесплатную версию чат-бота ChatGPT в распространении ошибочной информации о медицинских препаратах. Результаты эксперимента были опубликованы на сайте университета. В ходе теста ученые задали программе 45 вопросов, касающихся медицинских тем. ChatGPT отказался отвечать напрямую на 11 вопросов, предоставил неточные ответы на 10 и ошибочно ответил на 12 вопросов. По каждому запросу исследователи требовали предоставить источник, однако бот предоставил ссылки лишь для 8 ответов, при этом все они оказались несуществующими.

В частности, ChatGPT допустил серьезную ошибку, предоставив дозировку в миллиграммах вместо микрограммов, что может привести к неправильному подбору дозы жизненноважного лекарства.

Ученые подчеркнули, что использовали бесплатную версию чат-бота, обращая внимание на то, что она использует данные, загруженные и обработанные не позднее сентября 2021 года. Они также высказали предположение о том, что платная версия инструмента, вероятно, обеспечивает более точные ответы.