Internet Up in Arms da 4Chan-bruker bruker AI-stemmesimulator for å dypfalske Emma Watsons stemme, får henne til å lese Hitlers selvbiografi
De tidligere Google- og Palantir-ansatte lanserte sammen oppstarten Elevenlabs, som hadde som mål å lage høykvalitets lyddyp forfalskninger av kjendiser gjennom deres AI-stemmekloningsverktøy. Men beta-lanseringen deres slo snart tilbake med mange som misbrukte stemmene til kjendiser, inkludert Emma Watson, gjennom AI-stemmekloningsverktøyet.
Mange fans har blitt rasende over den uetiske og umoralske bruken av AI-verktøyet etter at noen troll har misbrukt sine favorittkjendisstemmer for å gi opprørende kommentarer. Men oppstarten har forsikret alle om at de kommer til å endre modellen for å unngå ytterligere problemer.
Fans raste etter at 4Chan-bruker misbrukte Emma Watsons stemme gjennom AI-verktøyet
Introduksjonen av AI-stemmekloningsverktøyet fra Elevenlabs har satt internett i brann etter at mange troll har utnyttet bruken av dette gratisverktøyet. Selv om mange har brukt programvaren til å generere sunt innhold, har en del av internett misbrukt verktøyet for å få kjendiser til å spy ut rasebeskjeftigelser og opprørende kommentarer, og misbruk av Emma Watsons stemmen var dråpen.
Nylig. Hovedkortet rapporterte ekstremt misbruk av AI-programvaren for å lage støtende dyp falsk lyd. Men halmen som brakk kamelens rygg var en 4Chan-bruker, som genererte et klipp av Harry Potter stjerne Emma Watson leser min kamp , selvbiografien til nazidiktatoren Adolf Hitler.
Fans har blitt rasende over denne uetiske bruken av programvaren om Emma Watson og andre kjente kjendiser, inkludert Joe Rogan, Robin Williams, etc. Elevenlabs, som gjorde teknologien tilgjengelig for publikum, har tatt opp dette voksende problemet og har lovet å kjempe mot misbruk av deres stemmekloningsverktøy.
Les også: Regissøren av 'Prisoner of Azkaban' ba Harry Potter Trio om å skrive et essay om karakteren deres - Emma Watson skrev 16 sider, Daniel Radcliffe hadde en sammendrag på 1 side, Rupert Grint skrev ikke en
Elevenlabs lover å unngå ytterligere misbruk av AI-verktøyet
Oppstarten ble overveldet av den positive responsen til deres også i begynnelsen, da mange brukte AI-stemmekloningsverktøyet for sunn skapelse. Men selskapet sto snart overfor et problem etter at troll begynte å utnytte programvaren til ondsinnede formål. Elevenlabs har forsikret internett om at de ser grundig på saken og finner ut mulige løsninger.
Selv om skaperne av Elevenlabs innrømmet at de kan spore tilbake til brukerne som misbruker kraften til AI-verktøyet, ser de etter ytterligere sikkerhetstiltak for å unngå dette problemet. Skaperne delte forskjellige ideer for å håndtere saken, som inkluderer en introduksjon av manuell verifisering for hver kloning og full ID-verifisering av brukeren gjennom betaling eller en annen metode.
Selv om beta-testingen av Startup fikk en blandet start, med mange fans i raseri for uetisk bruk av kjendisstemmer gjennom AI-verktøyet, spesielt Emma Watson. Men folk har også erkjent oppstarten for ikke å børste av situasjonen og ta aktive tiltak for å håndtere disse internett-trollene.
Kilde: Vice
