Midjorney ska konkurrera med Adobe med ny version av sin AI
Midjourney förbereder en ny version av sitt webbaserade verktyg som kommer att ge användare möjlighet att redigera uppladdade bilder direkt på nätet med hjälp av företagets generativa AI-teknik. Enligt Midjourneys VD, David Holz, kommer verktyget att släppas ”tidigt nästa vecka” och innehåller funktioner för att ”omtexturera” och ”repainta” objekt i bilder, vilket ger användarna möjligheten att ändra färger och detaljer baserat på beskrivande texter. Ska bli intressant att se om det här kan bli en tydlig konkurrent till Adobe och dessa AI-modell Firefly.
Risker och behovet av tydlig märkning för AI-redigerade bilder
Användning av AI-verktyg för att redigera redan existerande bilder har blivit ett hett ämne. Plattformar som Meta kämpar för att tydligt märka bilder som är redigerade med AI, medan företag som Google lanserar kraftfulla AI-verktyg utan visuella indikationer för AI-modifieringar. I ett steg för att öka transparensen har Midjourney implementerat standarden IPTC Digital Source Type, som visar metadata om en bild har skapats med AI. Men företaget har inte antagit C2PA-standarden, som spårar bildens fullständiga ursprung inklusive använd hårdvara och mjukvara.
Begränsad lansering och ökad moderering
För att säkerställa ett ansvarsfullt införande kommer den nya versionen av bildverktyget att släppas i en begränsad utgåva och vara tillgängligt för en specifik del av användarna till en början. Midjourney planerar också att införa ökad mänsklig moderering samt AI-modering för att förebygga missbruk av verktyget. Företaget kommer att använda en användarpoll för att avgöra vilka som får initial åtkomst.
Utmaningar med deepfakes och AI-genererade bilder
Den ökande tillgängligheten av AI-redigeringsverktyg, särskilt för att skapa deepfakes, medför betydande risker. Under året har deepfake-tekniken ökat med hela 900% enligt data från Clarity, ett företag som specialiserar sig på att identifiera deepfakes. I spåren av katastrofer, som orkanen Helene, har internet översvämmats av manipulerade bilder som visar förstörelse och lidande, vilket gör det svårt för allmänheten att skilja mellan verklighet och desinformation.
Deepfakes har blivit en så allvarlig fråga att över tio amerikanska delstater nu har infört lagar för att motverka AI-hjälpt bedrägeri. Förslag på federala lagar saknas dock fortfarande. I Kalifornien behandlas för närvarande en lag som kan ge domare möjlighet att beordra borttagning av deepfakes eller utdöma böter för skapare av missledande innehåll.
Midjourneys steg mot ansvarsfull AI-utveckling
Trots tidigare kritik, inklusive en pågående rättsprocess för påstådd användning av upphovsrättsskyddat material i sina AI-modeller, har Midjourney infört vissa begränsningar för att förebygga spridning av deepfakes. Inför det kommande amerikanska presidentvalet har plattformen lagt in filter för att hindra manipulationer av bilder på politiska ledare.
Kommentera: