Användningen av Generativ AI och Large Language Models (LLMs), såsom ChatGPT, har fått ett explosionsartat uppsving de senaste åren. Dessa avancerade modeller har blivit banbrytande inom naturlig språkbehandling och GPT-3.5 används av såväl privatpersoner som letar efter recept till fredagsmiddagen till medarbetaren som vill sammanställa en rapport till månadsmötet. Möjligheterna är många men det är även riskerna. Frågan blir därför: Hur ska vi göra för att använda det både säkert och effektivt? Vad krävs för att kunna dra nytta av modellerna på ett säkert sätt utan att äventyra säkerheten för den egna verksamheten?
Vad är Generativ AI?
Generativ Artificiell Intelligens är AI som kan generera bilder, text eller andra medier med hjälp av generativa modeller (1). Att den just kallas generativ beror på dess förmåga att framställa något som inte existerat tidigare, det vill säga den genererar något. Maskininlärning används för att behandla enorma mängder bilder eller text för att sedan fastställa vilka saker som har störst sannolikhet att hamna intill andra saker. Textförslag (autocorrect), alltså när till exempel din telefon ger förslag på vad resten av ordet kan vara, kan även det ses som en primitiv form av generativ AI (2).
Tänk på det här innan du börjar använda Generativ AI i din verksamhet
Sedan hösten 2022 har allmänhetens medvetande om och användande av Generativ AI ökat på bred front. Privatpersoner använder sig av ChatGPT och DALL-E och inom företag har språkmodeller som Microsoft Copilot och Bing Chat fått genomslagskraft. Viktigt är dock att belysa vissa ”dos and don’ts” din verksamhet behöver ta i beaktning innan dessa typer av verktyg implementeras:
- Ta fram riktlinjer eller ett ramverk för hur AI bör eller får användas internt – inte bara för slutanvändaren utan också för IT-förvaltningen och inköpsavdelningen. Du bör förtydliga vad för typ av information som får matas in och att alla ska vara noga med att inte mata in konfidentiella uppgifter eller personligt identifierande information om medarbetarna.
- Var medveten om att de data som matas in i publika chattbotar används för vidare lärande och utveckling av AI:n. När du tillför data till generativa AI-verktyg förs dessa data tillbaka till omfattande språkmodeller (LLM) för att lära sig av dem, och därefter sprids informationen i det oändliga cyberutrymmet.
- Se upp för ”hallucinationer”. Då verktyget inte har tillräckligt med relevant data kan den generativa AI:n helt enkelt hitta på information vilket kan innebära stora risker då detta inte alltid är uppenbart (3). Mänsklig granskning, medvetenhet och försiktighet spelar därför en viktig roll både för att kvalitetssäkra och för att undvika felaktigheter.
I dagsläget är det upp till varje verksamhet att hantera dessa punkter, alla ansvarar för att sätta upp sina egna riktlinjer gällande hur slutanvändaren får eller bör använda sig av marknadens generativa AI och LLM-modeller. Inom en snar framtid kommer det dock finnas konkreta regler att förhålla sig till, i och med EU:s AI-förordning som fortfarande håller på att förhandlas. När förslaget godkänts kommer det vara världens första lagstiftning om AI (4). Det är en häftig utveckling som vi kommer att följa och bevaka, så missa inte våra kommande blogginlägg om ämnet!
Källor
(1) https://en.wikipedia.org/wiki/Generative_artificial_intelligence
(2) https://computersweden.idg.se/2.2683/1.777756/generativ-ai
(3) https://www.forbes.com/sites/forbestechcouncil/2023/09/06/preventing-hallucinations-in-generative-artificial-intelligence
(4) https://www.europarl.europa.eu/news/sv/headlines/society/20230601STO93804/eu-s-ai-akt-forsta-forordningen-om-artificiell-intelligens
