Довіряти чи ні: чиї поради цитує Google-ШІ, коли йдеться про здоров’я

Функція Google AI Overviews у відповідях на запити щодо здоров’я найчастіше цитує YouTube. Відповідні результати викликали занепокоєння щодо надійності інструменту, яким щомісяця користуються близько двох мільярдів людей.

Про це свідчить дослідження платформи SE Ranking, яка проаналізувала понад 50 тисяч запитів у Німеччині, пише The Guardian.

Своєю чергою, у Google заявили, що відповіді від AI Overviews є "надійними" та спираються на авторитетні джерела, зокрема, Центри контролю та профілактики захворювань Сполучених Штатів Америки та клініку Майо. Втім, найбільш цитованим доменом у межах дослідження, яке аналізувало 50 807 запитів і ключових слів, пов’язаних з охороною здоров’я, став YouTube із 20 621 посиланням із загальної кількості 465 823. Загалом відеоплатформа становила 4,43% усіх цитувань в AI Overviews.

Водночас жоден медичний сайт, лікарняна мережа, державний портал чи академічна установа не мають таких показників. Автори дослідження наголошують, що YouTube є універсальною платформою, а не спеціалізованим медичним видавцем.

"Це важливо, оскільки YouTube не є видавцем медичного контенту", — додали науковці.

Вони зауважили, що на платформі можуть публікуватися як лікарі й клініки, так і інфлюенсери або автори, які не мають медичної освіти. Другим за частотою цитування джерелом став сайт німецького суспільного мовника NDR.de із 14 158 посиланнями. Далі йдуть сайт медичних довідників Msdmanuals.com (9 711), портал здоровʼя Netdoktor.de (7 519) та карʼєрна платформа для лікарів Praktischarzt.de (7 145).

Відповідь Google

У коментарі медійниками Google зауважила, що AI Overviews розроблені для відображення якісного контенту незалежно від формату. У компанії також наголосили, що значна частина контенту на YouTube створюється авторитетними органами охорони здоров’я та ліцензованими медичними фахівцями.

"Твердження про те, що огляди штучного інтелекту надають неправдиву інформацію, спростовується власними даними звіту, які показують, що найчастіше цитовані домени в оглядах штучного інтелекту — це авторитетні вебсайти. І з того, що ми бачили в опублікованих результатах, огляди штучного інтелекту цитують експертний контент YouTube з лікарень та клінік", — додали у компанії.

Google також зазначила, що 96% із 25 найчастіше цитованих відео на YouTube були з медичних каналів. Водночас дослідники зауважують, що ці відео становлять менш як 1% всіх посилань на YouTube в оглядах ШІ.

Нагадаємо, торік у грудні видання Wired повідомляло, що у мережі з'явилася онлайн-платформа, яка продає користувачам коди для наркотичного та алкогольного сп’яніння чат-ботів. Відповідні модулі імітують вплив психоактивних речовин на штучний інтелект після завантаження в ChatGPT.