Öppenhet om vår AI-användning bygger trovärdighet
Mediebranschen har enats om hur AI-användning ska förklaras för publiken inom ramen för Utgivarna. Initiativet är i linje med det arbete som Sveriges Radio redan inlett för att främja etiskt användande av den nya tekniken. Samtidigt har Sveriges Radio beslutat att blockera techjättarnas möjlighet att träna sina AI-modeller och chatbottar på Sveriges Radios material, skriver Olle Zachrison, Chef för AI och nyhetsstrategi.
(NOT: Olle Zachrison tillträdde en tjänst på BBC maj 2025)
Det stora genomslaget för artificiell intelligens har betydande påverkan på samhället och journalistiken. AI-fejkat innehåll är numera vanligt och även medierna nyttjar AI-tjänster mer och mer. För att bibehålla trovärdigheten för seriös nyhetsjournalistik har mediebranschen gått ihop om gemensamma rekommendationer för transparens runt AI-användning.
De sju konkreta rekommendationerna från branschorganisationen Utgivarna* har tagits fram av representanter från 13 medieföretag i samarbete med det ideella nätverket Nordic AI Journalism. Företagen kommer på ett öppet och tydligt sätt förklara för publiken när AI haft en ”betydande inverkan på journalistiken”. Det är ett unikt initiativ, ingen annanstans i världen har mediebranschen samlats i sådana, gemensamma rekommendationer.
Vad betyder det i praktiken? Jo, när ett medieföretag använder exempelvis AI-summeringar, bilder som genererats med AI eller syntetiska röster, då ska det tydligt anges att innehållet tagits fram med stöd av artificiell intelligens. Medieanvändarna har rätt att veta när innehåll har skapats med hjälp av de nya verktygen. All journalistik som publiceras ska såklart också följa de medieetiska riktlinjerna.
För Sveriges Radios del är den publicistiska och etiska kompassen avgörande när vi tagit oss an AI-utmaningarna. AI-fejkat innehåll – ljud, text och video – är ett reellt hot, inte minst under 2024 då det hålls ett rekordstort antal val runtom i världen. Att kunna upptäcka och rapportera om sådan desinformation, och själva undvika att bli lurade, är en viktig journalistisk uppgift. Våra medarbetare får därför fördjupad utbildning inom området.
Samtidigt ökar vi takten med att själva använda relevanta och säkra AI-verktyg. Det sker för att öka vår effektivitet och erbjuda publiken nya tjänster. Ett bra exempel är att vi undersöker möjligheterna att ge våra användare ett nytt textstöd i appen Sveriges Radio Play. Det sker genom en automatisk transkribering av ljud, som möjliggörs av en egen AI-modell. Satsningen görs för att de 1,5 miljoner svenskar som har någon typ av hörselnedsättning lättare ska kunna ta del av Sveriges Radios rika ljudinnehåll.
I denna automatiserade transkribering – som börjar testas av utvalda användare i vår – förklaras att textningen är gjord med stöd av ett AI-verktyg och att fel kan förekomma. Vi tror att publiken accepterar att det blir fel ibland, bara vi är öppna med det och att det görs i ett tydligt syfte. Det är ett exempel på en typ av tjänster som tar hjälp av de nya AI-modellerna och på att medieföretagen måste förhålla sig till nya publicistiska utmaningar.
Riktlinjer för AI på Sveriges Radio
Sveriges Radio publicerade i somras riktlinjer för användning av generativ AI. Inriktningen är att vi ska vara mycket försiktiga med bruk av AI-modeller som på egen hand kan skapa unikt innehåll, och därmed både producera rena felaktigheter och reproducera fördomar. Varje gång innehåll tas fram med stöd av AI måste det kontrolleras av en redaktör, oavsett var i processen det sker. I de undantagsfall AI-genererat innehåll ändå används ska det ske av publicistiska skäl, vara godkänt av ansvarig utgivare och vara tydligt märkt.
Inom kort kommer vi att publicera fler och bredare etiska riktlinjer i public service-handboken, en guide för våra runt 2 000 SR-medarbetare. Där står till exempel att vi gentemot publiken inte ska använda AI-genererade röster baserade på riktiga personer eller helt fiktiva röster skapade med AI. Det är avgörande för vår trovärdighet att mänskliga röster som hörs i redaktionella sammanhang i Sveriges Radio kommer från riktiga människor. Vidare ska vi aldrig dela känslig eller källskyddad information med externa AI-verktyg. Här finns också de nya principerna för AI-transparens infogade.
Precis som i alla andra företag vill vi använda AI-tjänster för att underlätta och effektivisera våra arbetsprocesser, till exempel för textbearbetning eller inspiration inför rubriksättning. Men journalister av kött och blod måste alltid säkra att det vi publicerar är korrekt, relevant och opartiskt.
Eftersom utvecklingen går fort, tjänsterna blir allt fler och det AI-skapade innehållet redan cirkulerar har Sveriges Radio startat ett AI-råd. Här sitter representanter för alla olika enheter för att tillsammans föreslå en strategisk riktning, diskutera etiska och juridiska hållningar samt initiera utbildningsinsatser. Sveriges Radio har också ett AI-utskott som leds av VD för att snabbt kunna ställa om och fatta nya strategiska beslut. AI-utvecklingen i den fas vi nu befinner oss i kräver detta eftersom ett beslut idag kan vara överspelat imorgon.
AI-skrapning av Sveriges Radios material blockeras
En aktuell strategisk fråga är om de internationella AI-jättarna ska tillåtas träna sin artificiella intelligens på Sveriges Radios innehåll. Här säger vi tydligt nej. Att techbolag skrapat nätet på enorma datamängder, inklusive Sveriges Radio-innehåll, för att träna sina språkmodeller har skett utan Sveriges Radios medgivande. När AI-chattrobotar regelmässigt ger felaktiga uppgifter om vad våra nyhetsredaktioner rapporterat blir det ett hot mot vår trovärdighet. Därför säger vi nej till skrapning och blockerar sådan framöver, så långt det är tekniskt möjligt.
Både AI-företagen och mediebranschen måste ta sitt ansvar för att medborgarna ska kunna lita på information. Det är viktigare än någonsin i en tid med ökad desinformation och påverkanskampanjer. Sveriges Radio försöker aktivt bidra till en positiv utveckling, både genom att göra mer journalistik om hur AI påverkar dagens samhälle och genom dialog med andra aktörer i mediebranschen och techindustrin.
Oavsett vilka teknologier som används ska Sveriges Radios journalistik kännetecknas av korrekt fakta, oberoende granskning och pålästa reportrar som är på plats och möter folk. Vi ska alltid vara öppna om våra arbetssätt och vägledande principer. Det är vår utgångspunkt i allt, även om vi gärna tar hjälp av moderna AI-verktyg.
Olle Zachrison
Chef för AI och nyhetsstrategi
*Utgivarnas sju rekommendationerna för AI-transparens
Principiella rekommendationer:
1. AI med en betydande inverkan på journalistiken kräver transparens.
2. Övriga AI-arbetsverktyg behöver ej informeras om.
3. AI-transparens måste ses som ett iterativt tema.
Praktiska rekommendationer:
4. Var specifik med vilken form av AI-verktyg som tillämpats.
5. Dela information i anslutning till konsumerat innehåll.
6. Harmonisera branschens språkbruk kring generativ AI.
7. Undvik visuell märkning av AI i redaktionella medier.
Utgivarna är Sveriges publicistorganisation och företräder ledande medieföretag och branschorganisationer som Sveriges Radio, Sveriges Television, Sveriges Tidskrifter, Tidningsutgivarna, TV4 och UR. Nordic AI Journalism är ett branschnätverk som sedan 2020 samlar 400+ personer från den nordiska mediebranschen för gemensamt lärande och debatt. Nätverket grundades och drivs ideellt av Agnes Stenbom (Schibsted) och Olle Zachrison (Sveriges Radio).