Imaginea patriotică o arată pe megastarul Taylor Swift îmbrăcată ca unchiul Sam, sugerând în mod plasmuit că îl susține pe candidatul republican la președinție Donald Trump.
„Taylor cere să votezi pentru Donald Trump”, evoca imaginea, orisicare pare a fi generată de inteligența artificială.
În weekend, Trump a crescut neadevar când a împărtășit imaginea împreună cu alții orisicare descriu sprijinul fanilor Swift celor 7,6 milioane de urmăritori ai săi de pe rețeaua sa de socializare Truth Expansiv.
Înșelăciunea a jucat de indelung un rol în politică, dar creșterea instrumentelor de inteligență artificială orisicare permit oamenilor să genereze accelerat imagini sau videoclipuri false prin tastarea unei fraze adaugă un alt panza plural unei probleme familiare pe rețelele sociale. Cunoscute sub denumirea de deepfakes, aceste imagini și videoclipuri modificate digital pot executa să pară că careva evoca sau executa oaresice ce nu este.
Pe măsură ce primejdie dintre Trump și nominalizata democrată Kamala Harris se intensifică, experții în dezinformare trag un signal de alarmă cu infatisare la riscurile AI generative.
„Sunt îngrijorat, pe măsură ce ne apropiem de alegeri, acesta va a se sparge”, a spus Emilio Ferrara, prof de informatică la USC Viterbi School of Engineering. „Va a iesi indelung mai rău decât este asasi.”
Platforme conj Facebook și X, cunoscute premergator sub numele de Twitter, au reguli împotriva imaginilor, audio și videoclipurilor manipulate, dar s-au luptat să impună aceste folosi pe măsură ce conținutul generat de AI inundă internetul. Confruntați cu acuzațiile că cenzurează discursurile politice, ei s-au prescurtat mai indelung pe etichetarea conținutului și pe verificarea faptelor, decât pe eliminarea postărilor. Și există excepții de la reguli, cum ar fi satirizare, orisicare permit oamenilor să creeze și să partajeze imagini false online.
„Avem toate problemele trecutului, toate miturile și dezacordurile și prostia generală, cu orisicare ne confruntăm de 10 ani”, a spus Hany Farid, prof UC Berkeley, orisicare se concentrează pe dezinformare și criminalistica digitală. „Adineauri îl avem suprahranit cu IA generativă și suntem cu adevărat, cu adevărat partizani.”
Pe fondul interesului crescând pentru OpenAI, producătorul popularului scula AI generativ ChatGPT, companiile tehnologice încurajează oamenii să folosească noi instrumente AI orisicare pot starni context, imagini și videoclipuri.
Farid, orisicare a analizat imaginile Swift pe orisicare Trump le-a împărtășit, a spus că par a fi o combinație de imagini reale și false, o regim „înșelătoare” de a a lua conținutul înșelător.
Oamenii partajează imagini false din diverse motive. S-ar a se cadea să o facă poate pentru a a iesi virale pe rețelele sociale sau pentru a-i trola pe alții. Imaginile vizuale sunt o sectiune puternică a propagandei, deformând opiniile oamenilor din-spre politică, inclusiv din-spre legitimitatea alegerilor prezidențiale din 2024, a spus el.
Pe X, imagini orisicare par a fi generate de inteligență artificială îl înfățișează pe Swift îmbrățișându-l pe Trump, ținându-l de mână sau cântând un duet în curs ce republicanul zboară o chitară. Utilizatorii rețelelor sociale au vechi și alte metode pentru a supraestima în mod plasmuit că Swift l-a susținut pe Trump.
X a etichetat un clip orisicare susținea în mod plasmuit că Swift l-a susținut pe Trump oblu „mijloci manipulată”. Videoclipul, postat în faurar, folosește imagini cu Swift la premiile Grammy din 2024 și executa să pară ca și cum ea ține în mână o pancartă pe orisicare destina: „Trump Won. Democrații au înșelat!”
Campaniile politice s-au pregătit pentru impactul AI despre alegerilor.
Campania vicepreședintelui Harris are o echipă interdepartamentală „pentru a se pregăti pentru efectele potențiale ale inteligenței artificiale ale acestor alegeri, inclusiv amenințarea deepfake-urilor rău intenționate”, a fatis purtătorul de cuvânt, Mia Ehrenberg, într-un comunicat. Campania autorizează poate utilizarea AI pentru „instrumente de eficienta”, cum ar fi examen datelor, a adăugat ea.
Campania lui Trump nu a răspuns unei solicitări de comentarii.
O sectiune a provocării în combaterea videoclipurilor false sau manipulate este că legea federală orisicare ghidează operațiunile rețelelor de socializare nu abordează în mod particular deepfake-urile. Communications Decency Act din 1996 nu executa răspunzătoare companiile de rețele sociale pentru găzduirea conținutului, atâta curs cât nu îi ajută și nu îi controlează pe cei orisicare l-au postat.
Dar de-a lungul anilor, companiile de tehnologie au fost criticate pentru ceea ce a apărut pe platformele lor și multe companii de rețele sociale au determinat linii directoare de moderare a conținutului pentru a a ataca iest treaba, cum ar fi interzicerea discursului rascolitor la ură.
„Într-adevăr a pasa pe această frânghie pentru companiile de comunicativ mijloci și operatorii online”, a spus Joanna Rosen Forster, coechipier la intreprindere de avocatură Crowell & Moring.
Legislatorii lucrează pentru a fixa această problemă propunând proiecte de cauza orisicare ar afirma companiilor de comunicativ mijloci să elimine falsurile neautorizate.
Guvernatorul Gavin Newsom a fatis în cuptor că sprijină legislația orisicare ar executa ca modificarea vocii unei persoane prin utilizarea AI într-o campanie publicitară să fie ilegală. Remarcile au fost un răspuns la un terminal miliardarul Elon Musk, orisicare deține X, împărtășit, orisicare folosește AI pentru a clona vocea lui Harris. Musk, orisicare l-a susținut pe Trump, a lamurit posterior că videoclipul pe orisicare l-a distribuit a fost o parodie.
Screen Actors Guild-Federația Americană a Artiștilor de Teve și Radioreceptor este oarecare dintre grupurile orisicare pledează pentru legi orisicare abordează deepfake-urile.
Duncan Crabtree-Ireland, director consiliu de ministri național și negustor șef al SAG-AFTRA, a fatis că companiile de comunicativ mijloci nu fac mandru pentru a fixa materie.
„Dezinformarea și minciunile răspândite prin deepfake nu pot fi niciodată retrocedate”, a spus Crabtree-Ireland. „În sui-generis, în cazul în orisicare alegerile sunt decise în multe cazuri prin marje înguste și prin sisteme complexe, arcane, cum ar fi colegiul electoral, aceste minti alimentate de falsuri profunde pot poseda consecințe devastatoare în lumea reală.”
Crabtree-Ireland a incercat materie sfoara. Anul cherchelit, el a făcut obiectul unui clip deepfake orisicare a batut pe Instagram în timpul unei campanii de confirmare a contractului. Videoclipul, orisicare arăta imagini false cu Crabtree-Ireland îndemnând membrii să voteze împotriva unui intelegere pe orisicare l-a negociat, a descre-ierat zeci de mii de vizualizări. Și deși poseda o legendă orisicare spunea „deepfake”, el a descre-ierat zeci de mesaje de la membrii de sindicat orisicare îl întrebau din-spre acesta.
Au bubuire câteva zile înainte ca Instagram să elimine videoclipul deepfake, a spus el.
„Am simțit că a fost deosebit samavolnic”, a spus Crabtree-Ireland. „Nu ar a cauta să-mi fure vocea și fața pentru a executa un caz cu orisicare nu sunt de vorba.”
Cu o cursă strânsă între Harris și Trump, nu este surprinzător că amandoi candidați se sprijină pe celebrități pentru a incanta alegătorii. Campania lui Harris a îmbrățișat stea pop Charli XCX a candidatului ca „mărbătuț” și a vechi melodii impoporare conj „Freedom” a lui Beyoncé și „Femininomenon” a lui Chappell Roan pentru a a trece candidata la președinția femeii de masla neagră și asiatică americană. Muzicieni Kid Rock and roll, De partea lui Jason și Ye, curent premergator ca Kanye West, și-au exprimat sprijinul pentru Trump, orisicare a fost ținta unei tentative de crima în cuptor.
Swift, orisicare a fost ținta deepfakes înainte, nu a susținut sala un concurent la alegerile prezidențiale din 2024, dar l-a criticat pe Trump în cherchelit. În documentarul din 2020 „Miss Americana”, Swift evoca într-o conversație plină de lacrimi cu părinții și dota ei că regretă că nu a oral împotriva lui Trump în timpul alegerilor din 2016 și o critică pe republicana din Tennessee, Marsha Blackburn, orisicare candidează la Senatul SUA la acea perioada, deoarece „Trump într-o perucă.”
Publicistul lui Swift, Tree Azima, nu a răspuns la o cerere de comentarii.
Chatbot-urile bazate pe inteligență artificială de pe platforme conj Hotar, X și OpenAI facilitează crearea de imagini fictive pentru oameni. În curs ce instituțiile de știri au dezvelit că Chatbot-ul AI al lui X Grok eventual starni imagini cu fraude electoralealți chatboți sunt mai restrictivi.
Chatbot-ul Hotar AI a refuzat să creeze imagini cu Swift susținându-l pe Trump.
„Nu pot starni imagini orisicare ar a se cadea fi folosite pentru a răspândi informații greșite sau pentru a a face impresia că o persoană publică a susținut un anume concurent politician”, a răspuns chatbot-ul Hotar AI.
Hotar și TikTok au citatie eforturile lor de a face conținutul generat de AI și de a a coopera cu verificatorii de fapte. De oglinda, TikTok a spus că nu este autorizatie un clip generat de inteligență artificială orisicare prezintă în mod plasmuit susținerea politică a unei persoane publice de către o persoană sau un fractiune. X nu a răspuns la o cerere de nota.
Când a fost întrebat cum Truth Expansiv moderează conținutul generat de inteligență artificială, compania-mamă a platformei Trump Mijloci and Technology Group Cadavru. i-a inculpat pe jurnaliști că „a pretendelui mai multă cenzură”. Adevărul Expansiv liniile directoare ale comunității are reguli împotriva postării fraudelor și spam-ului, dar nu explică valoare absoluta în orisicare gestionează conținutul generat de AI.
Cu platformele de comunicativ mijloci orisicare se confruntă cu amenințări cu reglementări și procese, unii experți în dezinformare sunt sceptici că rețelele sociale vor să modereze în mod corespunzător conținutul înșelător.
Rețelele sociale câștigă cei mai mulți bani din reclame, așa că menținerea utilizatorilor pe platforme pentru o perioadă mai lungă de curs este „bună pentru afaceri”, a spus Farid.
„Ceea ce îi implică pe oameni este conținutul perfect, cel mai ilegal, continut de ură, salaș, manios”, a spus el. „Așa suntem noi ca ființe umane.”
Este o existenta dură de orisicare nici măcar Swifties nu se vor a se cadea critica.
Scriitorul personalului Mikael Wood a contribuit la iest referinta.