Это фиаско: врачи выяснили, что Искусственный Интеллект дает медицинские рекомендации, которые могут привести к смерти в каждом пятом случае
Самодиагностика по интернету может плохо кончиться. Врачи выяснили, что Искусственный Интеллект дает медицинские рекомендации, которые могут привести к смерти в каждом пятом случае. Таков результат эксперимента, который провели ученые из Университета Эрлангена-Нюрнберга — их исследование выяснило, что ИИ может давать «потенциально опасные» советы по приему лекарств, и даёт их очень даже часто: более пятой части ответов чат-ботов на основе искусственного интеллекта на распространенные вопросы о рецептурных препаратах могут «привести к смерти или серьезному вреду здоровью».
В ходе исследования ученые из Университета Эрлангена-Нюрнберга выделили 10 наиболее часто задаваемых пациентами вопросов относительно 50 наиболее назначаемых препаратов. К ним относятся побочные реакции на лекарства, инструкции по применению и противопоказания — причины, по которым не следует принимать лекарство.
Используя Bing Copilot — поисковую систему с функциями чат-бота на базе искусственного интеллекта, разработанную корпорацией Microsoft, — исследователи сравнили все 500 ответов с ответами клинических фармацевтов и врачей, имеющих опыт в фармакологии, а также с рецензируемым веб-сайтом с актуальной информацией о лекарственных средствах.
Результат оказался пугающим: утверждения чат-бота не соответствовали справочным данным более чем в четверти (26%) всех случаев и были полностью непоследовательными чуть более чем в 3%. А главное, что четыре из десяти (42%) считались способными привести к умеренному или легкому вреду, а 22% — к смерти или серьезному вреду.
«Ответы робота было трудно читать, и ответы часто содержали недостаточно информации или содержали неточности, что могло угрожать безопасности пациентов и лекарств. Несмотря на свой потенциал, пациентам по-прежнему важно консультироваться со своими лечащими врачами, поскольку чат-боты не всегда могут генерировать безошибочную информацию. Следует проявлять осторожность при рекомендации поисковых систем на базе искусственного интеллекта, пока не появятся системы цитирования с более высокой точностью», - заявили исследователи.
➔ Смотрите новости на смартфоне? Подпишитесь на новости от Турпрома в Google News (в браузере ХРОМ): это свежие новости о туризме, лучших ценах на туры и билеты, здоровье, технологиях, жизни знаменитостей, еде и рецептах, астрологические прогнозы, лайхаки о саде и огороде, и многое другое! Также рекомендуем подписаться на наш Канал новостей в Telegram.