Kinas säkerhetschef varnar: AI skapar nya risker som inte går att övervaka

Artificiell intelligens utvecklas i en takt som gör att nya säkerhetsrisker kan uppstå snabbare än myndigheter och organisationer hinner förstå dem. Nu varnar Kinas säkerhetschef för att AI kan skapa hot som blir allt svårare att övervaka, förutse och hantera. Det handlar inte enbart om hur tekniken används i dag, utan också om vad mer avancerade AI-system kan möjliggöra när de får större självständighet och tillgång till känslig information. Utvecklingen väcker frågor om kontroll, cybersäkerhet och nationell säkerhet. Samtidigt ökar pressen på regeringar att hitta metoder för att hantera riskerna utan att bromsa den tekniska utvecklingen.

AI skapar säkerhetsrisker som blir svårare att förutse

Artificiell intelligens har på kort tid gått från att främst vara ett verktyg för automatisering och informationsbearbetning till att få en allt större roll inom cybersäkerhet, kommunikation och kritisk infrastruktur. Kinas säkerhetschef Chen Yixin varnar för att utvecklingen samtidigt skapar nya nationella säkerhetsrisker. I en artikel i den kinesiska tidskriften China Cyberspace beskriver han AI som en ny arena för strategisk rivalitet mellan stormakter. Han lyfter bland annat fram risker för ideologisk säkerhet, kritisk informationsinfrastruktur, känsliga uppgifter och militära system. Utvecklingen gör att säkerhetsmyndigheter behöver förhålla sig till hot som kan förändras snabbare än tidigare.

AI kan förändra hotbilden

En central del av oron handlar om att AI kan sänka tröskeln för avancerade angrepp. Chen pekar på att nya AI-modeller kan göra det billigare och enklare att genomföra cyberattacker mot känsliga system. Det innebär att hotbilden inte längre enbart behöver komma från aktörer med stora tekniska resurser. Automatiserade verktyg kan i stället hjälpa angripare att analysera information, identifiera sårbarheter och producera material i en betydligt större omfattning än tidigare. AI kan därmed förändra förutsättningarna för både cyberbrott och statliga säkerhetsoperationer.

Utvecklingen blir särskilt komplicerad när AI-system kan arbeta mer självständigt. Kinesiska myndigheter har diskuterat scenarier där framtida AI kan få tillgång till externa resurser, kopiera sig själv eller försöka skaffa sig större kontroll. Kinas säkerhetsramverk har därför börjat behandla risken för att AI-system ska hamna utanför mänsklig kontroll som en särskild säkerhetsfråga. Diskussionen gäller alltså inte bara hur dagens modeller används, utan även hur mer avancerade system kan agera när de får större självständighet och tillgång till digitala verktyg.

Övervakning blir en allt större utmaning

När AI kan skapa och bearbeta stora mängder information snabbt blir det svårare för människor och traditionella säkerhetssystem att upptäcka varje potentiellt hot. Ett system kan exempelvis generera stora mängder innehåll eller automatisera delar av en cyberoperation. Då handlar övervakning inte bara om att kontrollera ett enskilt verktyg, utan om att förstå hur flera automatiserade processer kan samverka. Den ökade hastigheten gör också att en mänsklig kontrollpunkt riskerar att hamna efter den tekniska utvecklingen.

Detta är en av anledningarna till att kinesiska myndigheter betonar behovet av riskförebyggande ramverk, säkerhetsbedömningar och starkare styrning. Samtidigt fortsätter Kina att driva på användningen av AI inom olika sektorer. Landets strategi kombinerar därför teknisk utveckling med försök att bygga upp regler och säkerhetsmekanismer parallellt. Kinesiska myndigheter har bland annat arbetat med säkerhetsstandarder och externa tester för att hantera riskerna med mer avancerade AI-system. Det visar hur kontrollfrågan blivit en central del av AI-politiken.

Kinas säkerhetschef vill se bättre kontroll över AI-utvecklingen

Chen Yixins varning handlar inte enbart om tekniska fel eller traditionella cyberattacker. Han kopplar AI till ett bredare nationellt säkerhetsperspektiv där information, samhällsstabilitet och statliga system kan påverkas samtidigt. Enligt hans resonemang kan generativ AI användas för att skapa rykten, vilseledande material och stora mängder innehåll som blir svårt att hantera. Det innebär att samma teknik som kan användas för produktivitet och innovation också kan användas för informationsoperationer i en omfattning som tidigare varit betydligt svårare att uppnå.

Generativ AI kan förstärka informationspåverkan

Chen pekar särskilt på möjligheten att använda AI för att massproducera vilseledande information. Tekniken kan skapa text, bilder, ljud och video med mycket liten mänsklig arbetsinsats. Deepfakes är ett tydligt exempel på detta. Ett fabricerat klipp där en offentlig person verkar säga något som aldrig sagts kan spridas snabbt och vara svårt för mottagare att kontrollera. Kinas säkerhetsministerium har beskrivit sådana metoder som potentiella verktyg i det som myndigheten kallar kognitiv krigföring.

Riskerna omfattar samtidigt mer än falska videor. Automatiserade konton och AI-genererade texter kan användas för att skapa stora informationsflöden, vilket kan göra det svårare att skilja genuina diskussioner från samordnad påverkan. När mängden material ökar kan själva volymen bli ett problem för säkerhetsmyndigheter, plattformar och journalister. Det betyder inte att varje AI-genererad text eller bild utgör ett säkerhetshot, men tekniken förändrar skalan och hastigheten på hur information kan produceras och distribueras.

Känsliga uppgifter blir en annan risk

En annan fråga som Chen lyfter gäller information som matas in i AI-tjänster. Om företag eller myndigheter använder utländska AI-system kan känsliga uppgifter potentiellt hamna utanför den egna kontrollen. Kinas säkerhetsministerium har därför varnat för risken att användning av utländska AI-tjänster kan leda till läckage av känslig information. Frågan blir särskilt betydelsefull när AI används för dokumentanalys, programmering, kommunikation eller andra arbetsuppgifter där systemen får tillgång till interna data.

Det skapar en säkerhetsfråga som går längre än själva AI-modellen. Organisationer behöver även veta vilken information som skickas till tjänsten, var den behandlas och vilka aktörer som kan få tillgång till den. I takt med att AI integreras djupare i arbetsflöden kan mängden information som passerar genom systemen öka. Därmed blir dataskydd en del av den bredare säkerhetsdiskussion som nu förs kring avancerad artificiell intelligens och användningen av tekniken inom myndigheter och företag.

Nya AI-system utmanar myndigheternas förmåga att övervaka hot

En viktig förändring är att AI-system blir mer kapabla att utföra flera uppgifter i följd utan att en människa behöver styra varje enskilt steg. Det kan ge stora praktiska fördelar, men samtidigt skapa nya kontrollproblem. Om ett system kan analysera information, fatta beslut och använda externa verktyg blir det svårare att bedöma varje möjlig konsekvens i förväg. Kinas tidigare säkerhetsramverk har uttryckligen tagit upp scenarier där framtida AI kan skaffa resurser, reproducera sig och försöka få större kontroll.

Självständighet förändrar kontrollbehovet

Traditionell programvara fungerar vanligtvis enligt regler som utvecklare kan kartlägga och testa. Moderna AI-system är annorlunda eftersom deras beteende påverkas av träningsdata, modellarkitektur, instruktioner och den information de möter under användning. När systemen dessutom får tillgång till verktyg och externa tjänster kan antalet möjliga beteenden öka ytterligare. Det gör säkerhetstester mer komplicerade och innebär att en modell kan behöva granskas både före och efter att den tas i drift.

Kina har under 2026 arbetat med säkerhetsstandarder som ska hantera riskerna med AI-agenter och potentiell förlust av kontroll. Myndigheterna har bland annat fokuserat på säkerhetsbedömningar, tester och styrning. Samtidigt har landet fortsatt att integrera AI i olika delar av ekonomin. Kombinationen visar hur frågan har gått från att handla om enbart tekniska begränsningar till att även omfatta hur hela AI-ekosystemet ska övervakas. Ju mer självständiga systemen blir, desto fler delar av deras användning behöver kunna kontrolleras.

Internationella regler blir allt viktigare

AI:s säkerhetsrisker är samtidigt svåra att begränsa till ett enskilt land. Modeller utvecklas, distribueras och används över nationsgränser, medan datacenter, företag och tekniska komponenter kan finnas i olika jurisdiktioner. Chen har därför efterlyst ett internationellt system för AI-regler och starkare global styrning. Hans uttalanden kommer samtidigt som Kina och USA försöker hantera både teknisk konkurrens och gemensamma säkerhetsfrågor. Frågan om AI har därmed blivit nära kopplad till bredare diskussioner om cybersäkerhet och internationell stabilitet.

För myndigheter innebär detta en dubbel utmaning. De behöver kunna upptäcka och begränsa konkreta säkerhetshot samtidigt som de försöker förstå hur snabbt tekniken förändras. Frågan gäller därför inte bara vilka regler som ska införas, utan också hur övervakning och säkerhetstester ska anpassas när AI-system får större kapacitet. Det är en utveckling som gör AI-styrning till en allt mer central del av den internationella säkerhetsdiskussionen.