Skugg-AI
Skugg-AI är användningen av AI-verktyg, modeller eller AI-drivna integrationer inom en organisation utan IT- eller säkerhetsteamets godkännande.
Skugg-AI är användningen av artificiell intelligens, modeller eller AI-drivna integrationer inom en organisation utan IT- eller säkerhetsteamets vetskap, godkännande eller översyn. Det är den AI-specifika efterföljaren till skugg-IT, och det sprider sig snabbare eftersom de flesta AI-verktyg är gratis, webbläsarbaserade och bara ett OAuth-klick från företagets data.
Snabbfakta
- Över en tredjedel (38%) av anställda medger att de har delat känslig arbetsinformation med AI-verktyg utan arbetsgivarens tillstånd (National Cybersecurity Alliance / CybSafe, citerat av IBM).
- Enligt branschundersökningar har ungefär vart femte brittiskt företag drabbats av dataläckage kopplat till anställdas användning av generativ AI.
- Skugg-AI omfattar mer än chattbotar: AI-mötesanteckningsverktyg, webbläsartillägg och e-postassistenter kopplade via OAuth är de snabbast växande kategorierna.
- Enligt EU:s AI-förordning och GDPR förblir organisationen ansvarig för personuppgifter som behandlas av AI-verktyg som anställda använder, sanktionerade eller inte.
Skugg-AI jämfört med skugg-IT
| Skugg-IT | Skugg-AI | |
|---|---|---|
| Vad det är | Alla icke-sanktionerade program, hårdvara eller tjänster | Icke-sanktionerade AI-verktyg, modeller och AI-integrationer |
| Typiska exempel | Dropbox, Trello, WhatsApp, privata enheter | ChatGPT, AI-anteckningsverktyg, AI-e-postassistenter, webbläsar-copilots |
| Främsta risken | Ohanterad datalagring och åtkomst | Företagsdata används som modellinput, ibland lagrad eller använd för träning |
| Hur data lämnar | Uppladdade eller delade filer | Prompts, inklistrat innehåll och OAuth-beviljad åtkomst till inkorg eller drive |
| Regulatorisk exponering | GDPR, branschregler | GDPR plus EU:s AI-förordnings krav på AI-användning och tillsyn |
| Svårighetsgrad att upptäcka | Måttlig: nätverks- och utläggssignaler finns | Hög: de flesta verktyg är gratis, webbläsarbaserade och lämnar inga inköpsspår |
Verkliga exempel på skugg-AI
Generativa AI-chattbotar
Anställda klistrar in kundlistor, avtal, källkod eller finansiell data i ChatGPT, Claude, Gemini eller gratis kopior för att sammanfatta, översätta eller felsöka. Om verktyget lagrar input eller använder den för träning har den datan lämnat er kontroll för alltid.
AI-mötesanteckningsverktyg
Botar från transkriberingstjänster ansluter till videosamtal efter att en enda anställd kopplat sin kalender. Varje deltagares ord spelas in och behandlas av en tredje part ingen granskat.
AI-e-postassistenter kopplade via OAuth
Skrivassistenter, schemaläggare och "inkorg-copilots" ber om behörigheter i Google Workspace eller Microsoft 365. Ett klick kan ge en tredjeparts-AI full läsåtkomst till en hel inkorg, inklusive konfidentiella trådar, fakturor och lösenordsåterställningsmejl. Detta är den minst synliga och mest riskfyllda kategorin, eftersom åtkomsten består tyst även efter att den anställde slutat använda verktyget.
AI-webbläsartillägg
Tillägg som sammanfattar sidor eller skriver svar kan läsa allt som renderas i webbläsaren, inklusive interna webbappar och webbmail.
Inbäddade AI-funktioner
Godkända SaaS-verktyg släpper i tysthet nya AI-funktioner som skickar data till underleverantörer som den ursprungliga säkerhetsgranskningen aldrig täckte.
Autonoma AI-agenter
Anställda experimenterar med agenter som surfar, klickar och agerar åt dem med deras riktiga inloggningar och sessioner, vilket skapar handlingar ingen policy förutsett.
Varför anställda använder skugg-AI
Skugg-AI är sällan illvilligt. Anställda tar till AI-verktyg för att de fungerar: utkast skrivs snabbare, möten sammanfattar sig själva, kod granskas direkt. När den sanktionerade verktygsuppsättningen saknar AI-funktioner, eller när godkännande tar veckor, går anställda runt processen. En respons som förlitar sig på totalförbud tenderar att driva användningen längre under jorden snarare än att minska den.
Riskerna med skugg-AI
Dataläckage till modeller
Känslig input kan lagras av leverantören, exponeras genom leverantörsintrång eller i vissa fall användas för att träna framtida modeller. Till skillnad från en felplacerad fil kan data som absorberats av en modell inte återkallas.
Bestående OAuth-åtkomst
AI-verktyg som beviljats åtkomst till inkorg, drive eller kalender behåller den åtkomsten tills den uttryckligen återkallas. Övergivna behörigheter samlas till en osynlig attackyta, och ett intrång hos någon av dessa AI-leverantörer blir ett intrång i era data.
Efterlevnadsexponering
GDPR-skyldigheter följer personuppgifter in i vilket AI-verktyg en anställd än väljer. EU:s AI-förordning lägger till krav på transparens och mänsklig tillsyn för AI-användning inom exempelvis HR och ekonomi. Tillsynsmyndigheter godtar inte "vi visste inte att verktyget användes" som försvar.
Nya attackvägar
Angripare registrerar AI-appar som ser äkta ut och använder OAuth-samtyckesfiske för att lura anställda att bevilja åtkomst till inkorgen, en teknik som allt oftare ses tillsammans med VD-bedrägeri (BEC) och autentiseringsfiske (phishing). Skadliga eller komprometterade AI-webbläsartillägg utgör samma risk.
Ingen granskningslogg
När arbete sker inuti icke-sanktionerade AI-verktyg kan säkerhetsteam varken utreda incidenter, svara på registerutdragsförfrågningar eller bevisa efterlevnad.
Så upptäcker du skugg-AI i Google Workspace och Microsoft 365
De flesta skugg-AI-verktyg rör vid företagets e-post- eller identitetslager, vilket gör dem upptäckbara:
- Granska OAuth-behörigheter. I Google Admin (Säkerhet > API-kontroller > Åtkomstkontroll för appar) eller Microsoft Entra (Företagsapplikationer), lista alla tredjepartsappar med beviljade behörigheter. Sortera efter e-post-, drive- och kalenderbehörigheter. Flagga AI-verktyg ingen godkänt.
- Sök inkommande välkomstmejl. Nya registreringar lämnar spår: välkomst- och verifieringsmejl från AI-tjänster som anländer till anställdas inkorgar avslöjar användning inom minuter från att den sker.
- Granska kalender- och mötesloggar efter återkommande tredjeparts-anteckningsbotar.
- Kontrollera webbläsartilläggen via er hanterade webbläsarpolicy, om ni har någon.
- Upprepa kontinuerligt. En kvartalsvis granskning missar verktyg som antas och överges mellan granskningarna. OAuth-behörigheten blir däremot kvar.
Minska risken utan att förbjuda AI
Totalförbud fungerar sällan i praktiken. Gör istället såhär: publicera en kort, tydlig AI-användningspolicy som namnger godkända verktyg och förbjudna datatyper. Erbjud ett sanktionerat AI-alternativ så att anställda inte behöver kringgå processen. Kräv granskning innan något verktyg får OAuth-behörigheter på företagskonton. Återkalla oanvända behörigheter enligt schema. Utbilda anställda om vad som aldrig får klistras in i en publik modell.
Så ser Sentaro skugg-AI
Eftersom nästan alla AI-verktyg annonserar sig själva via e-post (välkomstmejl, verifieringslänkar, kvitton) och de mest riskfyllda kopplar upp sig via OAuth är inkorgen platsen där skugg-AI först blir synligt. Sentaros lager för App- och Domänintelligens övervakar exakt dessa signaler i Google Workspace och Microsoft 365: nya AI-registreringar, nya OAuth-behörigheter och samtyckesfiske förklätt till AI-appar, så att säkerhetsteam ser AI-användning när den sker i stället för månader senare.
Vanliga frågor
Är det skugg-AI att använda ChatGPT på jobbet?
Endast om den används utan IT-godkännande. Om er organisation har sanktionerat ChatGPT (till exempel via ett företagsavtal med datakontroller) är det godkänd AI. Samma verktyg där företagsdata klistrats in från ett privat konto utan godkännande är skugg-AI.
Vad är skillnaden mellan skugg-AI och skugg-IT?
Skugg-IT omfattar all icke-sanktionerad teknik. Skugg-AI är delmängden som gäller AI-verktyg och integrationer. Den innebär ytterligare risker eftersom AI-verktyg tar in data som prompts, kan lagra eller träna på den datan och ofta får bred åtkomst via OAuth-behörigheter.
Är skugg-AI olagligt?
Att använda ett icke-sanktionerat AI-verktyg är inte olagligt i sig, men det kan innebära att organisationen bryter mot GDPR, EU:s AI-förordning, branschregler eller kundavtal om person- eller konfidentiella uppgifter behandlas utan rätt kontroller.
Hur vanligt är skugg-AI?
Mycket vanligt. Över en tredjedel av anställda medger att de har delat känslig arbetsinformation med AI-verktyg utan tillstånd, och användningen fortsätter växa eftersom de flesta verktyg är gratis och inte kräver installation.
Hur upptäcker jag skugg-AI i min organisation?
Börja där bevisen finns: granska OAuth-behörigheter från tredje part i Google Workspace eller Microsoft 365, övervaka inkommande välkomstmejl från AI-tjänster och granska mötesloggar efter anteckningsbotar. Kontinuerlig övervakning av e-post- och identitetslagret fångar nya verktyg inom minuter från registrering.
Bör företag förbjuda AI-verktyg helt?
Förbud driver användningen under jorden där den inte kan övervakas. Ett bättre tillvägagångssätt är en tydlig AI-policy, sanktionerade alternativ, obligatorisk granskning innan OAuth-åtkomst beviljas och kontinuerlig upptäckt av nya AI-registreringar.
Se varje AI-integration som rör vid din inkorg
Sentaro aktiveras i Google Workspace och Microsoft 365 på minuter och visar varje app, AI-verktyg och OAuth-behörighet i din e-postmiljö.