Skugg-AI

Skugg-AI är användningen av AI-verktyg, modeller eller AI-drivna integrationer inom en organisation utan IT- eller säkerhetsteamets godkännande.

Skugg-AI är användningen av artificiell intelligens, modeller eller AI-drivna integrationer inom en organisation utan IT- eller säkerhetsteamets vetskap, godkännande eller översyn. Det är den AI-specifika efterföljaren till skugg-IT, och det sprider sig snabbare eftersom de flesta AI-verktyg är gratis, webbläsarbaserade och bara ett OAuth-klick från företagets data.

Snabbfakta

Skugg-AI jämfört med skugg-IT

Skugg-ITSkugg-AI
Vad det ärAlla icke-sanktionerade program, hårdvara eller tjänsterIcke-sanktionerade AI-verktyg, modeller och AI-integrationer
Typiska exempelDropbox, Trello, WhatsApp, privata enheterChatGPT, AI-anteckningsverktyg, AI-e-postassistenter, webbläsar-copilots
Främsta riskenOhanterad datalagring och åtkomstFöretagsdata används som modellinput, ibland lagrad eller använd för träning
Hur data lämnarUppladdade eller delade filerPrompts, inklistrat innehåll och OAuth-beviljad åtkomst till inkorg eller drive
Regulatorisk exponeringGDPR, branschreglerGDPR plus EU:s AI-förordnings krav på AI-användning och tillsyn
Svårighetsgrad att upptäckaMåttlig: nätverks- och utläggssignaler finnsHög: de flesta verktyg är gratis, webbläsarbaserade och lämnar inga inköpsspår

Verkliga exempel på skugg-AI

Generativa AI-chattbotar

Anställda klistrar in kundlistor, avtal, källkod eller finansiell data i ChatGPT, Claude, Gemini eller gratis kopior för att sammanfatta, översätta eller felsöka. Om verktyget lagrar input eller använder den för träning har den datan lämnat er kontroll för alltid.

AI-mötesanteckningsverktyg

Botar från transkriberingstjänster ansluter till videosamtal efter att en enda anställd kopplat sin kalender. Varje deltagares ord spelas in och behandlas av en tredje part ingen granskat.

AI-e-postassistenter kopplade via OAuth

Skrivassistenter, schemaläggare och "inkorg-copilots" ber om behörigheter i Google Workspace eller Microsoft 365. Ett klick kan ge en tredjeparts-AI full läsåtkomst till en hel inkorg, inklusive konfidentiella trådar, fakturor och lösenordsåterställningsmejl. Detta är den minst synliga och mest riskfyllda kategorin, eftersom åtkomsten består tyst även efter att den anställde slutat använda verktyget.

AI-webbläsartillägg

Tillägg som sammanfattar sidor eller skriver svar kan läsa allt som renderas i webbläsaren, inklusive interna webbappar och webbmail.

Inbäddade AI-funktioner

Godkända SaaS-verktyg släpper i tysthet nya AI-funktioner som skickar data till underleverantörer som den ursprungliga säkerhetsgranskningen aldrig täckte.

Autonoma AI-agenter

Anställda experimenterar med agenter som surfar, klickar och agerar åt dem med deras riktiga inloggningar och sessioner, vilket skapar handlingar ingen policy förutsett.

Varför anställda använder skugg-AI

Skugg-AI är sällan illvilligt. Anställda tar till AI-verktyg för att de fungerar: utkast skrivs snabbare, möten sammanfattar sig själva, kod granskas direkt. När den sanktionerade verktygsuppsättningen saknar AI-funktioner, eller när godkännande tar veckor, går anställda runt processen. En respons som förlitar sig på totalförbud tenderar att driva användningen längre under jorden snarare än att minska den.

Riskerna med skugg-AI

Dataläckage till modeller

Känslig input kan lagras av leverantören, exponeras genom leverantörsintrång eller i vissa fall användas för att träna framtida modeller. Till skillnad från en felplacerad fil kan data som absorberats av en modell inte återkallas.

Bestående OAuth-åtkomst

AI-verktyg som beviljats åtkomst till inkorg, drive eller kalender behåller den åtkomsten tills den uttryckligen återkallas. Övergivna behörigheter samlas till en osynlig attackyta, och ett intrång hos någon av dessa AI-leverantörer blir ett intrång i era data.

Efterlevnadsexponering

GDPR-skyldigheter följer personuppgifter in i vilket AI-verktyg en anställd än väljer. EU:s AI-förordning lägger till krav på transparens och mänsklig tillsyn för AI-användning inom exempelvis HR och ekonomi. Tillsynsmyndigheter godtar inte "vi visste inte att verktyget användes" som försvar.

Nya attackvägar

Angripare registrerar AI-appar som ser äkta ut och använder OAuth-samtyckesfiske för att lura anställda att bevilja åtkomst till inkorgen, en teknik som allt oftare ses tillsammans med VD-bedrägeri (BEC) och autentiseringsfiske (phishing). Skadliga eller komprometterade AI-webbläsartillägg utgör samma risk.

Ingen granskningslogg

När arbete sker inuti icke-sanktionerade AI-verktyg kan säkerhetsteam varken utreda incidenter, svara på registerutdragsförfrågningar eller bevisa efterlevnad.

Så upptäcker du skugg-AI i Google Workspace och Microsoft 365

De flesta skugg-AI-verktyg rör vid företagets e-post- eller identitetslager, vilket gör dem upptäckbara:

  1. Granska OAuth-behörigheter. I Google Admin (Säkerhet > API-kontroller > Åtkomstkontroll för appar) eller Microsoft Entra (Företagsapplikationer), lista alla tredjepartsappar med beviljade behörigheter. Sortera efter e-post-, drive- och kalenderbehörigheter. Flagga AI-verktyg ingen godkänt.
  2. Sök inkommande välkomstmejl. Nya registreringar lämnar spår: välkomst- och verifieringsmejl från AI-tjänster som anländer till anställdas inkorgar avslöjar användning inom minuter från att den sker.
  3. Granska kalender- och mötesloggar efter återkommande tredjeparts-anteckningsbotar.
  4. Kontrollera webbläsartilläggen via er hanterade webbläsarpolicy, om ni har någon.
  5. Upprepa kontinuerligt. En kvartalsvis granskning missar verktyg som antas och överges mellan granskningarna. OAuth-behörigheten blir däremot kvar.

Minska risken utan att förbjuda AI

Totalförbud fungerar sällan i praktiken. Gör istället såhär: publicera en kort, tydlig AI-användningspolicy som namnger godkända verktyg och förbjudna datatyper. Erbjud ett sanktionerat AI-alternativ så att anställda inte behöver kringgå processen. Kräv granskning innan något verktyg får OAuth-behörigheter på företagskonton. Återkalla oanvända behörigheter enligt schema. Utbilda anställda om vad som aldrig får klistras in i en publik modell.

Så ser Sentaro skugg-AI

Eftersom nästan alla AI-verktyg annonserar sig själva via e-post (välkomstmejl, verifieringslänkar, kvitton) och de mest riskfyllda kopplar upp sig via OAuth är inkorgen platsen där skugg-AI först blir synligt. Sentaros lager för App- och Domänintelligens övervakar exakt dessa signaler i Google Workspace och Microsoft 365: nya AI-registreringar, nya OAuth-behörigheter och samtyckesfiske förklätt till AI-appar, så att säkerhetsteam ser AI-användning när den sker i stället för månader senare.

Vanliga frågor

Är det skugg-AI att använda ChatGPT på jobbet?

Endast om den används utan IT-godkännande. Om er organisation har sanktionerat ChatGPT (till exempel via ett företagsavtal med datakontroller) är det godkänd AI. Samma verktyg där företagsdata klistrats in från ett privat konto utan godkännande är skugg-AI.

Vad är skillnaden mellan skugg-AI och skugg-IT?

Skugg-IT omfattar all icke-sanktionerad teknik. Skugg-AI är delmängden som gäller AI-verktyg och integrationer. Den innebär ytterligare risker eftersom AI-verktyg tar in data som prompts, kan lagra eller träna på den datan och ofta får bred åtkomst via OAuth-behörigheter.

Är skugg-AI olagligt?

Att använda ett icke-sanktionerat AI-verktyg är inte olagligt i sig, men det kan innebära att organisationen bryter mot GDPR, EU:s AI-förordning, branschregler eller kundavtal om person- eller konfidentiella uppgifter behandlas utan rätt kontroller.

Hur vanligt är skugg-AI?

Mycket vanligt. Över en tredjedel av anställda medger att de har delat känslig arbetsinformation med AI-verktyg utan tillstånd, och användningen fortsätter växa eftersom de flesta verktyg är gratis och inte kräver installation.

Hur upptäcker jag skugg-AI i min organisation?

Börja där bevisen finns: granska OAuth-behörigheter från tredje part i Google Workspace eller Microsoft 365, övervaka inkommande välkomstmejl från AI-tjänster och granska mötesloggar efter anteckningsbotar. Kontinuerlig övervakning av e-post- och identitetslagret fångar nya verktyg inom minuter från registrering.

Bör företag förbjuda AI-verktyg helt?

Förbud driver användningen under jorden där den inte kan övervakas. Ett bättre tillvägagångssätt är en tydlig AI-policy, sanktionerade alternativ, obligatorisk granskning innan OAuth-åtkomst beviljas och kontinuerlig upptäckt av nya AI-registreringar.

Se varje AI-integration som rör vid din inkorg

Sentaro aktiveras i Google Workspace och Microsoft 365 på minuter och visar varje app, AI-verktyg och OAuth-behörighet i din e-postmiljö.

Boka en demo