MOREINCOME

Google har lanserat ett nytt verktyg som syftar till att identifiera och ta bort deepfakes på Youtube. Verktyget, kallat ”likeness”, tillåter användare att söka efter AI-genererade videor som föreställer dem själva. Detta är ett svar på den ökande användningen av deepfake-teknik och dess potentiella risker för desinformation och identitetsstöld.

Deepfakes är videor som manipulerats med hjälp av artificiell intelligens för att få det att se ut som om en person säger eller gör något de aldrig har gjort. De kan användas för att sprida falsk information, skada en persons rykte eller till och med för att begå bedrägerier.

”Likeness”-verktyget fungerar genom att användare kan ladda upp en bild av sig själva till Google. Verktyget analyserar sedan Youtube-videor och flaggar de som innehåller liknande ansikten. Detta hjälper till att identifiera potentiella deepfakes som använder en persons identitet utan deras samtycke. Google betonar att verktyget är under utveckling och att det inte kommer att upptäcka alla deepfakes, men det är ett viktigt steg i kampen mot denna teknik.

Google har under en tid arbetat med att bekämpa deepfakes på sin plattform. Detta nya verktyg är en del av en bredare strategi som inkluderar förbättrade algoritmer för att upptäcka manipulerade videor och samarbete med experter för att utveckla effektiva metoder för att identifiera och ta bort deepfakes. Användare uppmanas att rapportera videor som de misstänker är deepfakes, vilket hjälper Google att förbättra sin förmåga att upptäcka dem.

Utmaningen ligger i att deepfake-tekniken utvecklas snabbt, vilket gör det svårt att hålla jämna steg. Google erkänner att de kommer att behöva fortsätta att investera i forskning och utveckling för att möta denna utmaning och skydda sina användare från de potentiella skadorna som deepfakes kan orsaka.