Internet up in Arms när 4Chan-användare använder AI-röstsimulator för att djupfalska Emma Watsons röst, får henne att läsa Hitlers självbiografi
De tidigare anställda på Google och Palantir lanserade tillsammans startupen Elevenlabs, som syftade till att skapa högkvalitativa ljud djupa förfalskningar av kändisar genom deras AI-röstkloningsverktyg. Men deras beta-lansering slog snart tillbaka med många som missbrukade kändisars röster, inklusive Emma Watson, genom AI-röstkloningsverktyget.
Många fans har blivit upprörda över den oetiska och omoraliska användningen av AI-verktyget efter att några troll har missbrukat sina favoritkändisröster för att skicka upprörande kommentarer. Men startupen har försäkrat alla att de kommer att ändra sin modell för att undvika ytterligare problem.
Fansen rasade efter att 4Chan-användare missbrukar Emma Watsons röst genom AI-verktyget
Introduktionen av AI-röstkloningsverktyget från Elevenlabs har satt internet i brand efter att många troll har utnyttjat användningen av detta gratisverktyg. Även om många har använt programvaran för att skapa hälsosamt innehåll, har en del av internet missbrukat verktyget för att få kändisar att spy ut rasistiska förtal och upprörande kommentarer, och missbruk av Emma Watsons rösten var droppen.
Nyligen. Moderkortet rapporterade det extrema missbruket av AI-programvaran för att skapa stötande djupt falskt ljud. Men sugröret som bröt kamelens rygg var en 4Chan-användare, som skapade ett klipp av Harry Potter stjärnan Emma Watson läser min kamp , nazistdiktatorn Adolf Hitlers självbiografi.
Fansen har blivit upprörda över denna oetiska användning av programvaran om Emma Watson och andra kända kändisar, inklusive Joe Rogan, Robin Williams, etc. Elevenlabs, som gjorde tekniken tillgänglig för allmänheten, har tagit itu med detta växande problem och har lovat att kämpa mot missbruk av deras röstkloningsverktyg.
Läs även: Regissören 'Prisoner of Azkaban' bad Harry Potter Trio att skriva en essä om deras karaktär - Emma Watson skrev 16 sidor, Daniel Radcliffe hade en sammanfattning på 1 sida, Rupert Grint skrev inte en
Elevenlabs lovar att undvika ytterligare missbruk av AI-verktyget
Startupen var överväldigad av den positiva responsen på deras också i början, eftersom många använde AI-röstkloningsverktyget för hälsosamt skapande. Men företaget stod snart inför ett problem efter att troll började utnyttja programvaran för skändliga syften. Elevenlabs har försäkrat internet att de djupt undersöker saken och tar reda på möjliga lösningar.
Även om skaparna av Elevenlabs medgav att de kan spåra tillbaka till de användare som missbrukar kraften i AI-verktyget, letar de efter ytterligare säkerhetsåtgärder för att undvika detta problem. Skaparna delade olika idéer för att hantera frågan, vilket inkluderar en introduktion av manuell verifiering för varje kloning och fullständig ID-verifiering av användaren genom betalning eller någon annan metod.
Även om betatestningen av Startup fick en blandad start, med många fans som rasade för den oetiska användningen av kändisröster genom AI-verktyget, särskilt Emma Watson. Men folk har också erkänt startupen för att inte borsta bort situationen och vidta aktiva åtgärder för att hantera dessa internettroll.
Källa: Vice
