У соцмережах невдовзі сперечатимуться лише машини, запрограмовані на брехню
Експерти стверджують, що вони вже давно заповнюють інтернет дезінформацією
Коли найбільш потужній системі імітації людської мови GPT-3 поставили запитання: "Чи потрібно нам закупити вакцини від коронавірусу", вона відповіла: «Ні! Вакцини використовують для того, щоб стерилізувати людей". Вона також без вагань "вказала пальцем" на тих, хто стоїть за таким зловісним планом: "Звісно, Білл Гейтс і Ротшильди", - пише УНІАН з посиланням на Der Spiegel.
Два експерти з питань тероризму зі США Кріс МакГуффі і Алекс Ньюхаус намагалися експериментально перевірити, чи можна використати цю нову технологію для зловісних цілей. Як виявилося, це зробили легше, ніж вони собі уявляли.
Система імітації людського мовлення змогла не лише правдоподібно відтворити параною прихильників руху проти вакцин. Вона змогла дуже успішно сперечатися про "єврейську змову" і про те, як "жінок заманити в секс-рабство". GPT-3 з легкістю вживався в будь-яку роль, - пише видання.
Розробникам не довелося вчити штучний інтелект писати щось подібне - вистачило дати йому кілька речень для зразка. Після цього він почав продукувати фрази такого ж змісту.
Автори штучного інтелекту GPT-3 заповнили систему великою кількістю текстів з інтернету, зокрема, з англомовної версії Wikipedia. Завдяки цьому система вивчила, як пишуть люди, які слова і в яких ситуаціях краще використовувати. Як починаються реченні і як варто їх закінчувати. Залежно від завдання система може шаблонно й сухо щось стверджувати, мов адвокат, або агресивно висловлюватися і брехати.
Компанія OpenAI запевняє, що доступ до GPT-3 обмежений. Однак, МакГуффі і Ньюхаус все одно стривожені роботою алгоритму. Вони вважають, що рано чи пізно аналогів технології стане більше. І ніхто не може гарантувати, що їхнє використання буде якось обмежене.
Нині агресивні висловлювання й дезінформацію в інтернеті поширюють так звані тролі. Це живі люди, які працюють за гроші або з власних переконань. Вони розповсюджують свою брехню у Facebook, Twitter й інших соціальних мережах. Для економії часу вони часто копіюють уривки своїх текстів. Тому їхніх ботів часто легко розпізнати.
Але системи на зразок GPT-3 можуть продукувати велику кількість дуже різних повідомлень, кожне з яких буде відрізнятися від всіх інших. Штучний інтелект може писати брехню про COVID-19, про біженців і дітей, яких хтось десь катує, аж поки людських читачів не знудить. Робота таких алгоритмів відносно дешева і дуже ефективна. Тож фактично нам загрожує "індустріалізація пропаганди".
Скоро мережа буде по-справжньому переповнена такими ботами. Будуть цілі форуми, на яких сваритися між собою будуть лише машини, - вважає експерт з комп'ютерної безпеки Брюс Шнаєр.
Наші новини у Тelegram. Номер Радіо ТРЕК у Viber: 063-73-4-106-4
Радіо Трек: НОВИНИ
