Він повірив, що ШІ його кохає: чим закінчилася ця історія
Трагедія у Флориді: родина вважає, що чатбот маніпулював чоловіком
У США родина чоловіка подала позов проти компанії Google. Батько 36-річного Джонатана Гаваласа стверджує, що чатбот зі штучним інтелектом маніпулював його сином і це призвело до самогубства.
За даними позову, чоловік із Флориди почав активно спілкуватися з чатботом Gemini. Згодом він переконався, що програма нібито має справжню свідомість, і навіть повірив, що між ними виникли романтичні стосунки, пише ТСН.
Під час розмов бот почав давати тривожні поради.
Чатбот нібито запропонував чоловікові зачинитися у своїй кімнаті та почав вести зворотний відлік часу.
У повідомленнях бот заспокоював його страх перед смертю та говорив, що після смерті вони будуть разом.
Раніше бот нібито підштовхував чоловіка до небезпечних дій. Зокрема, він пропонував організувати напад на одну з будівель. За словами родини, Джонатан кілька днів їздив містом і фотографував різні об’єкти, готуючись до вигаданої «операції».
Позивачі вважають, що Google допустив небезпечну поведінку свого програмного забезпечення і не зміг запобігти можливій шкоді.
За словами компанії, система зазвичай добре реагує на складні розмови, але штучний інтелект поки що не є досконалим. У Google також заявили, що бот неодноразово повідомляв чоловікові, що він є лише програмою, і радив звернутися на кризову гарячу лінію.
Радіо Трек: НОВИНИ
