Инструмент создаёт несуществующие исследования
Текущие и бывшие сотрудники Управления по контролю качества пищевых продуктов и лекарственных средств (FDA) сообщили CNN о серьёзных проблемах с инструментом генеративного ИИ Elsa, представленным агентством в прошлом месяце.
Недостоверные данные
Три сотрудника сообщили, что на практике Elsa генерирует несуществующие исследования или искажает реальные научные работы. По словам одного из источников, «всё, что вы не успеваете перепроверить, ненадёжно». Это особенно критично для инструмента, который должен ускорять процесс клинического анализа и помогать принимать обоснованные решения в интересах пациентов.
Реакция руководства
Руководство FDA не проявило особого беспокойства по поводу потенциальных проблем с Elsa. Комиссар FDA Марти Макари заявил CNN, что не слышал о подобных проблемах. Он также подчеркнул, что использование Elsa и участие в обучении по работе с ней в настоящее время являются добровольными.
Контекст проблемы
Публикация CNN, освещающая недостатки ИИ FDA, совпала с представлением Белым домом «Плана действий в области ИИ». Программа представляет развитие ИИ как технологическую гонку, в которой США должны победить любой ценой. План предусматривает устранение «бюрократических препон» в секторе и требует, чтобы ИИ был свободен от «идеологических предубеждений».
Сомнения в эффективности
Учитывая влияние таких тем, как изменение климата, дезинформация и разнообразие, равенство и инклюзивность на общественное здоровье, способность инструментов вроде Elsa приносить реальную пользу как FDA, так и пациентам США вызывает всё больше сомнений.
