Google kommer börja markera AI bilder i sökresultatet
Google har meddelat att de inom de närmaste månaderna kommer att börja markera AI-genererade och AI-redigerade bilder i sina sökresultat. Detta sker som en reaktion på den ökande populariteten av AI-bildgeneratorer, vilket har lett till att sådana bilder blir allt vanligare, även vid sökningar på verkliga personer.
Med den ökande användningen av AI i produkter och tjänster för att främja kreativitet och produktivitet, blir det allt viktigare att människor förstår hur innehåll skapas och modifieras. För att möjliggöra detta investeras det mycket i verktyg och lösningar som SynthID, som ger information om innehållets ursprung och förändringar över tid.
Säkerhetsstärkande teknik för bättre innehållskontroll
Provenansteknik kan avslöja om en bild är tagen med en kamera, redigerad med mjukvara eller skapad av generativ AI. Denna information hjälper användare att fatta mer informerade beslut om det innehåll de interagerar med, vilket stärker mediekunskapen och förtroendet. Som medlem i styrkommittén för Coalition for Content Provenance and Authenticity (C2PA) har Google arbetat med att vidareutveckla tekniken för att fästa provenansinformation till innehåll. Den senaste versionen, Content Credentials 2.1, erbjuder högre säkerhet och bättre skydd mot manipulation, vilket minskar risken för att data ändras eller vilseleder.
Implementering av C2PA-standarden i Google-produkter
Under de kommande månaderna kommer den senaste versionen av Content Credentials att integreras i flera av Googles produkter:
Sök: Om en bild innehåller C2PA-metadata kan användare se om den har skapats eller redigerats med AI-verktyg via funktionen ”Om denna bild” i Google Bilder, Lens och Sök.
Annonser: Googles annonssystem börjar också integrera C2PA-metadata. Detta kommer att skalas upp över tid för att förbättra policyefterlevnad.
Dessutom utforskas möjligheten att visa C2PA-information på YouTube när innehåll är fångat med en kamera. Senare i år planeras fler uppdateringar kring detta.
Google uppmuntrar andra stora aktörer att göra samma sak.
Att etablera och signalera innehållsprovenans är en komplex utmaning, och det finns inga enkla lösningar för allt innehåll online. Därför är det avgörande att samarbeta med andra aktörer i branschen för att utveckla hållbara och interoperabla lösningar. Google uppmuntrar fler tjänster och hårdvaruleverantörer att anta C2PAContent Credentials.
Googles arbete med C2PA kompletterar dess bredare strategi för transparens och ansvarsfull AI-utveckling. Ett exempel är SynthID, en inbäddad vattenmärkningsteknik från Google DeepMind, som snart kommer att införas i fler generativa AI-verktyg och mediaformat som text, ljud, bild och video. Google har även gått med i flera andra koalitioner och grupper som fokuserar på AI-säkerhet och forskning, samt introducerat ett Secure AI Framework (SAIF).
Kommentera: