Штучний інтелект може маніпулювати людьми? Несподівана заява вчених

Науковці встановили, що штучний інтелект здатен прогнозувати дії людей. Зокрема, йдеться про покупки та політичні вподобання.

Як повідомляє Techsplore, збільшення популярності генеративного ШІ та чат-ботів відкриває можливості для маніпуляцій на основі поведінкових і психологічних даних людей, які були зібрані через повсякденну взаємодію.

Вчені з Кембридзького університету Великої Британії застерігають про появу нового ринку, де штучний інтелект може аналізувати та передбачати людські рішення. Ці дані можуть бути продати компаніям. Ці системи вже мають підтримку великих компаній, як-от OpenAI, Meta, Nvidia та Apple, що розробляють платформи для виявлення та прогнозування намірів людей.

Дослідники наголосили, що існують певні ризики впровадження таких технологій без відповідного регулювання. "Економіка намірів", створена штучним інтелектом, здатна підірвати основи вільних виборів, незалежної преси та справедливої конкуренції. ШІ може створити перевагу для компаній, які монетизують людські наміри та рішення. Вони зазначають, що це логічний розвиток економіки уваги, але з ще глибшими наслідками.

Видання додає, що розробки великих технологічних компаній вже показують певні ознаки цієї тенденції. Так, нова платформа американської компанії Apple App Intents надає можливість прогнозувати дії користувачів, а Meta й OpenAI активно досліджують способи інтеграції штучного інтелекту для аналізу людських бажань і намірів.

"Ми попереджаємо, що інструменти штучного інтелекту вже розробляються для виявлення, висновків, збору, запису, розуміння, прогнозування та, зрештою, маніпулювання та комерціалізації людських планів і цілей", — наголошують дослідники.

Враховуючи відповідні технологічні досягнення, вчені наголошують на важливості підвищення обізнаності суспільства та регулювання таких інструментів, щоб уникнути маніпуляцій та зловживань.

Нагадаємо, раніше американські науковці встановили, що жарти, згенеровані штучним інтелектом, викликали у людей більше сміху, ніж ті, які вигадали справжні коміки. Так, вченим вдалося встановити, що лише 25% учасників дослідження оцінили жарти від людей як смішніші.