Vad gör AI med din data? Och hur ser du till att central information inte sprids vidare? ”Det är viktigt att veta vilken information som är skyddsvärd. Vilka kronjuvelerna i verksamheten är”, säger professor Pontus Johnson.
Chattbottar med artificiell intelligens, som ChatGPT, har de senaste åren tagit världen med storm då de verkar ha något som vi upplever som riktig intelligens. Du kan ju med hjälp av chattbottarna enkelt översätta saker till engelska, skapa engagerande inlägg till sociala medier, skriva kod, barnböcker… Ja, möjligheterna tycks oändliga.
– Redan idag ser vi många fördelar i vardagen, och det är tydligt att i framtiden kommer vi att kunna få än mer hjälp av de här systemen. Det är inte alls uppenbart var detta tar slut, säger Pontus Johnson, professor i nätverk och systemteknik på KTH och föreståndare för Centrum för cyberförsvar och informationssäkerhet.
Samtidigt finns en rädsla för att de ska kunna ersätta oss på våra jobb. Ligger det något i rädslan?
– Det är inte uteslutet, men heller inte givet, säger Pontus Johnson.
Eftersom AI-verktygen tränas via data, blir de bättre ju fler som använder dem. Så när du laddar upp en utredning och ber AI:n sammanfatta den, eller vill ha hjälp med att formulera ett avtal, kan det hända att du med data som kan förbättra systemet.
– På så sätt blir du och din data en del av produkten, men det beror på språkmodell och abonnemang. Exempelvis lovar ChatGPT Enterprise att inte träna på din data, säger Pontus Johnson.
Som vanligt finns det alltså ingen gratis lunch. Och riktigt vad som händer med din personliga eller ditt företags data är inte helt klart. Det saknas insyn i många av de större AI-företagen.
– Ett företag kan absolut känna oro över att intellektuella egendomar hamnar på avvägar.
Nyligen blev det exempelvis känt att plattformen X låter sin AI nyttja användarnas innehåll för att träna upp sig. Det går visserligen att välja bort funktionen, men då måste man ju först vara medveten om att detta pågår.
Så hur ska man förhålla sig mellan risk och nytta vad gäller AI?
– För det första ska vi vara medvetna om att det här redan sker. När du googlar eller surfar på webben finns det företag där bakom som är intresserade av vad du gör, tycker, klickar på, handlar och så vidare. De använder eller säljer informationen.
Pontus Johnson påpekar också att många företag har mycket data i molnet, och istället för egna mejlservarar använder man Microsoft Exchange.
– Microsoft har därmed tillgång till allt som snurrar där. Det gäller även Teams och Word. De har visserligen lovat att inte kika på data annat än i undantagsfall. Men amerikanska signalspaningsmyndigheten kan kräva tillträde till data, och myndigheten har rätt att kräva tystnadsplikt, vilket innebär att Microsoft då inte får informera företaget i fråga om att detta pågår.
Vad gäller den generativa AI:n tycker Pontus Johnson därför att man behöver diskutera detta på företaget, och tydligt informera sina anställda.
– Om du ska behandla all data som oerhört värdefull får du en ineffektiv organisation. Om du å andra sidan behandlar all data som om den inte har ett värde, så kan du råka illa ut. Så det är viktigt att veta vilken information och vilka funktioner som är skyddsvärda, vilka kronjuvelerna i din verksamhet är.
Och ställ dig gärna samma fråga vad kring vad i ditt privatliv som är extra skyddsvärt innan du fortsätter laddar upp saker på ChatGPT.
Nästa artikel
Phishing är en form av cyberattack där en angripare försöker lura dig att dela med dig av känslig information eller klicka på skadliga länkar. Lite som en digital ficktjuv. Det görs via bedrägliga meddelanden som låtsas komma från legitima källor. Genom att väcka rädsla, panik och nyfikenhet, försöker de få dig att bli stressad och agera snabbt – dela lösenord, affärshemligheter eller bankkontonummer.
Traditionellt har många av dessa attacker ändå gått att se igenom på grund av stavfel, grammatiska fel, märkliga namn och underliga e-postadresser. Men sedan AI:s intåg har bedragarna blivit ännu vassare då AI har löst många av dessa problem, bland annat genom att använda ett bättre språk eller snyggare layout.
Attackerna har också en tydligare nu-känsla. AI fångar upp aktuell information från nyhetskällor och företags sajter och väver in aktuella detaljer, vilket gör meddelandena mer trovärdiga.
AI-chatbots kan också användas för att sprida meddelanden i en mycket snabbare takt än mänskliga bedragare.
Men låt dig inte luras av dessa fula fiskare!
Läs också: Se upp för deep fake-chefen
Lockbete: Angriparen skickar ett meddelande som ofta spelar på känslor som rädsla, brådska, eller nyfikenhet, som:
"Ditt konto har blivit låst. Klicka här för att återställa ditt lösenord."
"Du har fått ett paket som inte kunde levereras. Uppdatera din adress här."
"Viktig säkerhetsuppdatering. Logga in för att skydda ditt konto."
Falsk sajt eller länk: Du ombeds klicka på en länk som leder till en webbplats som ser ut som den riktiga sidan till exempel för en myndighet eller bank, men som kontrolleras av angriparen.
Insamling av information: När du fyller i dina uppgifter på den falska sidan, skickas informationen direkt till angriparen.
Utnyttjande av information: Angriparen använder de stulna uppgifterna för att logga in på offrets konton, stjäla pengar eller utföra andra bedrägerier.
