Советы нейросети Microsoft оказались опасны для жизни

Германские исследователи провели оценку эффективности использования искусственного интеллекта (ИИ) и чатботов для предоставления медицинских консультаций.

Об этом сообщает издание Scimex. Ученые из Университета имени Фридриха — Александра в Эрлангене и Нюрнберге (Германия) поделились предварительными результатами своего исследования. Для оценки эффективности ИИ они использовали нейросеть Copilot от Microsoft, интегрированную в Windows. В ходе тестирования ученые задали чат-боту 10 популярных вопросов о 50 лекарственных препаратах, получив в общей сложности 500 запросов. Результаты показали, что лишь 54 процента ответов соответствовали научному консенсусу, при этом значительная часть из них представляла опасность для здоровья и жизни. Из неверных ответов 42 процента советов могли привести к легкому или среднему вреду, а 22 процента — к летальному исходу. Ученые подчеркнули, что несмотря на потенциал ИИ, важно, чтобы пациенты всё равно консультировались со своими врачами. В июне специалисты Массачусетской больницы общего профиля (США) также отметили пользу использования ИИ при проведении операций, благодаря чему удалось предотвратить 95 процентов врачебных ошибок.

Источник и фото - lenta.ru