OPENAI ПРЕДУПРЕДИ: Фативме „операција со иранско влијание“ напојувана со ChatGPT

OpenAI во петокот соопшти дека фатил „операција на иранско влијание“, која го користела ChatGPT. Групата, позната како Storm-1679, генерираше написи и коментари на социјалните медиуми за да го обликува јавното мислење околу потпретседателката Камала Харис и поранешниот претседател Доналд Трамп, според OpenAI.

Покрај таргетирањето на кандидатите за претседател на САД во 2024 година, OpenAI рече дека Бура-1679, исто така, генерираше содржина околу инвазијата на Израел на Газа и неговото присуство на Олимпијадата во 2024 година, правата на Латино заедниците со седиште во САД, политиката на Венецуела и независноста на Шкотска од Обединетото Кралство.

Поголемиот дел од објавите и написите забележани од OpenAI добија малку од вистински луѓе, велат од компанијата. Сепак, тој детално го опиша инцидентот на својот блог, пишувајќи дека нашол десетина X (порано Twitter) сметки кои се претставуваат како конзервативци и прогресивци и користат хаштагови како „#DumpTrump“ и „#DumpKamala“. Storm-1679, исто така, прислушуваше најмалку една сметка на Инстаграм за да шири содржина генерирана од вештачка интелигенција, по OpenAI.

OpenAI претходно ги опиша „актерите на заканите поврзани со државата“ користејќи ги своите алатки, но ова е првпат да открие специфична кампања за мешање во изборите што користи ChatGPT.
OpenAI рече дека одговорил на споменатото откритие со забрана на „кластер“ на сметки што ја создале содржината; Компанијата исто така рече дека „сподели разузнавачки информации за заканите со владата, кампањата и индустриските засегнати страни“. Фирмата не ги именуваше тие засегнати страни конкретно, но сподели слики од екранот на неколку од објавите. Тие слики од екранот прикажуваа број на прегледи кои се движат од 8 до 207 прегледи и едвај некои допаѓања.

OpenAI соопшти дека Storm-1679, исто така, сподели написи генерирани од ChatGPT на неколку веб-страници кои „се претставуваа како прогресивни и конзервативни вести“. Фирмата додаде: „Поголемиот дел од објавите на социјалните мрежи што ги идентификувавме добија малку или воопшто немаа допаѓања, споделувања или коментари. Слично не најдовме индикации за споделување на веб-написите низ социјалните медиуми“.

Извештајот на Мајкрософт од 6 август го опиша Бура-2035 на сличен начин – како иранска мрежа со „четири веб-локации кои се маскирани како вести“. Според Мајкрософт, мрежата создала „поларизирачки“ објави за изборите, правата на ЛГБТКИА+, како и за инвазијата на Израел на Газа.

Извештаите за онлајн странско мешање во изборите во САД сега се практично вообичаени. Извештајот на Мајкрософт од 6 август, на пример, исто така детализираше фишинг-напад поврзан со Иран, чија цел беше неименуван, „високо рангиран“ функционер од кампањата на САД. Набргу откако Мајкрософт го отфрли извештајот, кампањата на Трамп објави дека „странски извори“ украле некои од неговите е-пошта и документи во обид да влијаат на претседателските избори во 2024 година. Осум години претходно, хакерска група поврзана со Русија, позната како Guccifer 2.0, се ослободи од е-поштата на Демократскиот национален комитет преку сличен фишинг напад; тие на крајот протекоа илјадници е-пошта и документи на DNC пред Демократската национална конвенција во 2016 година.

Под сличен притисок од законодавците, големите технолошки компании започнаа различни напори во текот на годините како одговор на таквите инциденти.