Microsofts nya vapen mot AI-hallucinationer
Microsoft har lanserat ett nytt verktyg, kallat Correction, för att korrigera så kallade AI-hallucinationer – felaktiga eller påhittade uppgifter i AI-genererade texter. Verktyget kan användas med olika AI-modeller, såsom Llama från Meta och GPT-4 från OpenAI, och är en del av Microsofts Azure AI Content Safety.
Kan det verkligen stoppa AI-hallucinationer?
Även om verktyget ger stora möjligheter att förbättra AI-tillförlitlighet, är vissa kritiska till om det verkligen kan lösa problemet helt. Os Keyes, doktorand vid University of Washington, beskriver det som att försöka ta bort väte från vatten: ”Det är en viktig komponent i hur tekniken fungerar,” säger han i en kommentar till Techcrunch.
Hur fungerar Correction?
I en video nedan demonstreras hur verktyget används för att analysera och rätta faktabrister i AI-genererad text. Genom att tillämpa Correction kan användare säkerställa att innehållet blir mer faktabaserat och tillförlitligt, vilket kan ha stor betydelse för allt från affärsdokument till nyhetsrapportering.
Kommentera: