Vad gör AI med din data? Och hur ser du till att central information inte sprids vidare? ”Det är viktigt att veta vilken information som är skyddsvärd. Vilka kronjuvelerna i verksamheten är”, säger professor Pontus Johnson.
Chattbottar med artificiell intelligens, som ChatGPT, har de senaste åren tagit världen med storm då de verkar ha något som vi upplever som riktig intelligens. Du kan ju med hjälp av chattbottarna enkelt översätta saker till engelska, skapa engagerande inlägg till sociala medier, skriva kod, barnböcker… Ja, möjligheterna tycks oändliga.
– Redan idag ser vi många fördelar i vardagen, och det är tydligt att i framtiden kommer vi att kunna få än mer hjälp av de här systemen. Det är inte alls uppenbart var detta tar slut, säger Pontus Johnson, professor i nätverk och systemteknik på KTH och föreståndare för Centrum för cyberförsvar och informationssäkerhet.
Samtidigt finns en rädsla för att de ska kunna ersätta oss på våra jobb. Ligger det något i rädslan?
– Det är inte uteslutet, men heller inte givet, säger Pontus Johnson.
Eftersom AI-verktygen tränas via data, blir de bättre ju fler som använder dem. Så när du laddar upp en utredning och ber AI:n sammanfatta den, eller vill ha hjälp med att formulera ett avtal, kan det hända att du med data som kan förbättra systemet.
– På så sätt blir du och din data en del av produkten, men det beror på språkmodell och abonnemang. Exempelvis lovar ChatGPT Enterprise att inte träna på din data, säger Pontus Johnson.
Som vanligt finns det alltså ingen gratis lunch. Och riktigt vad som händer med din personliga eller ditt företags data är inte helt klart. Det saknas insyn i många av de större AI-företagen.
– Ett företag kan absolut känna oro över att intellektuella egendomar hamnar på avvägar.
Nyligen blev det exempelvis känt att plattformen X låter sin AI nyttja användarnas innehåll för att träna upp sig. Det går visserligen att välja bort funktionen, men då måste man ju först vara medveten om att detta pågår.
Så hur ska man förhålla sig mellan risk och nytta vad gäller AI?
– För det första ska vi vara medvetna om att det här redan sker. När du googlar eller surfar på webben finns det företag där bakom som är intresserade av vad du gör, tycker, klickar på, handlar och så vidare. De använder eller säljer informationen.
Pontus Johnson påpekar också att många företag har mycket data i molnet, och istället för egna mejlservarar använder man Microsoft Exchange.
– Microsoft har därmed tillgång till allt som snurrar där. Det gäller även Teams och Word. De har visserligen lovat att inte kika på data annat än i undantagsfall. Men amerikanska signalspaningsmyndigheten kan kräva tillträde till data, och myndigheten har rätt att kräva tystnadsplikt, vilket innebär att Microsoft då inte får informera företaget i fråga om att detta pågår.
Vad gäller den generativa AI:n tycker Pontus Johnson därför att man behöver diskutera detta på företaget, och tydligt informera sina anställda.
– Om du ska behandla all data som oerhört värdefull får du en ineffektiv organisation. Om du å andra sidan behandlar all data som om den inte har ett värde, så kan du råka illa ut. Så det är viktigt att veta vilken information och vilka funktioner som är skyddsvärda, vilka kronjuvelerna i din verksamhet är.
Och ställ dig gärna samma fråga vad kring vad i ditt privatliv som är extra skyddsvärt innan du fortsätter laddar upp saker på ChatGPT.
Nästa artikel
I dagens informationsflöde är det inte alltid lätt att veta vad som är sant. Det finns krafter som aktivt vill lura oss , och ibland går vi själva vilse i en snårskog av artiklar, tweets och tvärsäkra påståenden. Men vad är egentligen skillnaden mellan desinformation, vilseledande information och informationspåverkan. Vi reder ut.
Det handlar om falsk eller vilseledande information som sprids medvetet, i syfte att manipulera eller lura. Det kan till exempel vara en påhittad nyhet som sprids för att skada ett företag eller påverka en opinion. Här finns alltså ett tydligt uppsåt att vilseleda.
Detta är falsk eller felaktig information som sprids utan att den som delar den vet att den är osann. Personen tror ofta att den delar något sant, som när en kollega skickar en artikel som verkar trovärdig men som i själva verket bygger på felaktiga uppgifter.
All desinformation är vilseledande – men all vilseledande information är inte desinformation.
Detta är ett samordnat försök att påverka en viss målgrupp, till exempel befolkningen i en stad eller anställda i en organisation. Målet är ofta att underminera förtroende eller tillit, ytterst kanske till och med för att försvaga ett lands försvarsförmåga.
"Alternativa fakta" låter kanske som ett kreativt sätt att tolka verkligheten, men är i praktiken ofta rena osanningar paketerade som sanning. Uttrycket blev känt när Donald Trumps rådgivare Kellyanne Conway 2017 försvarade ett felaktigt påstående om publikstorleken vid Trumps presidentinstallation med just orden "alternativa fakta". Trots att uppgiften kunde motbevisas med bilder och statistik vägrade hon erkänna felet.
Falska nyheter ser ut som vanliga nyhetsartiklar men bygger på påhittat eller manipulerat innehåll. De sprids ofta i sociala medier, där rubriker och känsloladdade budskap snabbt får spridning. Studier visar att falska nyheter delas mer än sanna – för att de helt enkelt väcker starkare känslor: förvåning, ilska, oro eller upprördhet. Saklig fakta får sällan samma genomslag. Fenomenet exploderade inför det amerikanska valet 2016, men lever vidare i alla möjliga sammanhang.
Begreppet faktaresistens beskriver när människor vägrar ta till sig fakta som går emot deras egen uppfattning. Oavsett hur starka bevis som presenteras, står känslor, identitet och grupptillhörighet i vägen. Istället för att omvärdera sin ståndpunkt avfärdar man källor, ifrågasätter experter – eller väljer helt enkelt att tro på något annat som ”känns rätt”. Faktaresistens gör det extra svårt att bekämpa desinformation, eftersom den stänger dörren till diskussion innan den ens har börjat.
