Tre dolda risker med AI – och hur du kan skydda dig

Artificiell intelligens (AI) är ett hett område som inte bara har förändrat världen – den har revolutionerat sättet vi lever, jobbar och kommunicerar på. Men trots alla fördelar kommer AI också med flera säkerhetsrisker. Här går vi igenom tre risker att hålla ögonen på – och hur du kan skydda dig.

En av de största utmaningarna med artificiell intelligens (AI) är risken att den används på fel sätt – som vid chatbots, deepfake-videor, ljudmanipulation och spridning av falska AI-genererade nyheter. Här går vi in på de potentiella riskerna med dessa mörka sidor av AI-teknologin – och hur du kan skydda dig mot dem.

1. AI-chatbots: Ett verktyg för bedragare

AI-chatbots är skapade för att efterlikna mänsklig kommunikation och används ofta för att automatisera och effektivisera kundservice, försäljning och support – men det finns också en risk att cyberkriminella utnyttjar teknologin för social manipulation.

Risk: Social manipulation

Cyberkriminella kan använda sig av chatbottar i så kallade phishing-attacker för att interagera med dig som användare och lura dig att dela med dig av känslig information, till exempel lösenord och annan känslig data. Deras förmåga att svara på frågor i realtid och tillgång till stora mängder värdefull information kan verka autentiskt och göra det till en attraktiv metod för nätbedragare.

Tips för att skydda dig:

• Verifiera innan du delar information: Var uppmärksam på AI-chatbots och appar som kan verka äkta men kanske inte är det. Innan du lämnar ut någon personlig information, kontrollera att webbplatsen eller plattformen är äkta och verkligen tillhör det företag du tror att den gör. Granska webbadressen genom att se att den börjar med “https”, och se till att e-postadressen kommer från företagets officiella domän.

• Använd tvåfaktorsautentisering: Denna säkerhetsåtgärd kräver att du bekräftar din identitet med två olika metoder. Vanligtvis loggar du först in med ditt lösenord och får sedan en kod skickad till din telefon eller e-post. Detta gör det svårare för bedragare att få åtkomst till ditt eller dina konton, även om de skulle lyckas få tag på ditt lösenord.

• Undvik att dela känslig information: Var försiktig med vad du skriver in i chatbottens chattfönster, där du interagerar med den. Dela aldrig information som kontonummer, personnummer eller lösenord. Om en chatbot ber om sådana känsliga uppgifter, avsluta samtalet.

AI kan effektivisera processer, men det finns också en risk att cyberkriminella utnyttjar teknologin för sina egna syften.

2. Deepfake-videor och ljud: Manipulation av verkligheten

Deepfake-teknologi använder artificiell intelligens för att skapa trovärdiga falska videor, bilder och ljudinspelningar. Genom att manipulera en persons ansikte eller röst kan teknologin få det att se ut som om de säger eller gör någonting som egentligen aldrig har hänt. Även om denna typ av teknik kan vara underhållande, innebär den också allvarliga risker när den används i fel syften.

Risk: Social manipulation och utpressning

Cyberkriminella kan använda deepfake-videor och ljud för att låtsas vara allt från chefer till familjemedlemmar. Tänk dig att du får ett samtal eller en video från någon som ser ut att vara din närmsta chef eller en familjemedlem och som ber dig att överföra en summa pengar. Deepfakes kan också användas för utpressning genom att skapa falska videor som riskerar att skada någons rykte eller på annat sätt framställa dem i dålig dager och med negativa personliga konsekvenser till följd.

Tips för att skydda dig:

• Kontrollera källan noga: Om du tar emot oväntade video- eller ljudmeddelanden, försök bekräfta avsändarens identitet. Det kan du göra genom att antingen kontakta dem direkt, till exempel genom att ringa eller möta dem personligen, och för att därigenom säkerställa att meddelandet verkligen kommer från den du tror.

• Var försiktig med vad du publicerar online: Tänk på vilken information, särskilt bilder och videor, som du publicerar online. Denna information kan lätt utnyttjas för att skapa deepfakes.

Läs också: Är du medveten om cyberhot och QR-koder?

3. AI-genererade falska nyheter: Spridning av desinformation

AI-drivna algoritmer kan skapa falska nyhetsartiklar och inlägg på diverse sociala medier som sprider desinformation. Dessa fabricerade berättelser, ofta kallade “fake news”, kan verka trovärdiga, vilket gör det svårt för dig som läsare att avgöra vad som är sant och vad som är falskt. I kombination med den snabba spridningen av information online kan AI-genererade nyheter göra stor skada.

Risk: Manipulation och spridning av falsk information

Falska nyheter kan skapa osäkerhet och rädsla, manipulera den offentliga opinionen och med det även styra val och politiska beslut – också skada rykten och vara vilseledande. Falska nyhetsartiklar och webbplatser används ofta i phishing-attacker, där bedragare kan lura dig att dela med dig av känslig data genom att få dig att klicka på skadliga länkar.

Tips för att skydda dig:

• Var kritisk mot källorna till den information du läser: Kontrollera alltid avsändaren innan du delar någonting online. Välj källor som är kända för att ge korrekt och faktabaserad information, till exempel väletablerade nyhetsmedier.

• Rapportera misstänkt innehåll: Många plattformar, som Facebook, Twitter och Instagram, har funktioner för att rapportera falska nyheter. Om du ser något innehåll som verkar felaktigt eller vilseledande – anmäl det.

• Lär dig att känna igen desinformation: Bli medveten om vilka kännetecken falska nyheter har. Håll utkik efter rubriker som verkar överdrivna eller alarmistiska, artiklar utan tydliga källor och som saknar expertutlåtanden, också information med syfte att väcka starka känslor, till exempel rädsla eller ilska.

Formue har en proaktiv strategi för att hantera cyberhot

På Formue har vi implementerat en policy för säker användning av AI-chatbots och integrerat AI-relaterade säkerhetshot i vår årliga säkerhetsutbildning. Målet är att samtliga medarbetare ska ha kunskap att identifiera och hantera risker med AI. Det är viktigt att vi kan använda den senaste teknologin, men det är också avgörande att vi är proaktiva i att motverka nya säkerhetshot.

– I dagens digitala landskap är cybersäkerhet en avgörande faktor när man väljer förmögenhetsförvaltare. För oss på Formue är cybersäkerhet mer än bara en prioritet; det är ett åtagande. Att skydda kunddata och digitala tillgångar är lika centralt för oss som det är för dig, säger Lars Uppsäll, vd Formue.

Läs mer om Formues säkerhetsarbete här