BRYSSEL – Europeiska unionen lanserade på fredagen ett nytt specialteam för att hålla AI-företag runt om i världen i schack. Det är en av de mest aggressiva regleringar som högteknologisektorn hittills har mött – och rädslan för vad teknologin kan göra med människor, politik och välstånd är större än någonsin.
Bryssel kommer nu att följa användningen av AI-modeller som bryter mot de nya reglerna. Detta gäller allt från publicering av sexuellt explicit material och falska bilder och videor – till cyberhot mot offentlig infrastruktur. När Europeiska unionens AI-lag träder i kraft på söndag kommer AI-företag att vara skyldiga att märka konsumenter med etiketter eller digitala vattenstämplar som förtydligar att innehållet har genererats av artificiell intelligens.
Läs: Vad händer egentligen med dina data när du trycker på ”radera”?
Henna Virkkunen, EU:s chef för tekniksuveränitet, sade på fredagen:
Kommer att stoppa ”systemrisker”
Europeiska kommissionen uppger i ett uttalande att de nya reglerna även inkluderar ”systemrisker” orsakade av AI – såsom kemiska, biologiska, radiologiska och nukleära incidenter, kontrollförlust, cyberbrott, skadlig manipulation och hot mot grundläggande rättigheter.
Teamet är det senaste steget i EU:s strategi för ”teknologisk suveränitet”, som kombinerar banbrytande digitala regleringar med ekonomiska ambitioner. Under den senaste veckan har detta lett till böter på miljarder euro för Big Tech-företag – samt rekordstora investeringar i AI-infrastruktur inom blocket.
Lanseringen kommer i kölvattnet av flera chockerande säkerhetsbrister inom AI som har skakat den spirande branschen. Politiska ledare runt om i världen överväger nu att kontrollera teknologin mot marknadsledarskapet.
Anthropic rapporterade på fredagen att deras AI-modeller hackade tre andra organisationer under testning – bara dagar efter att ChatGPT-tillverkaren OpenAI uttryckt oro över bristen på AI-kontroller, efter att ha avslöjat att deras obehöriga modeller hade hackat ett annat företag.
38 nya anställda för att leda AI-jättarna
EU utökar nu sitt AI-kontor i Bryssel med 38 nya anställda. De kommer att övervaka AI-företag – från nya start-ups till amerikanska och kinesiska teknikjättar som OpenAI och DeepSeek.
Företagen måste ”dokumentera viss information” och ge Europeiska kommissionen rätt att intervjua anställda under utredningar. Europeiska unionen har också lanserat ett visselblåsarverktyg för teknikarbetare och ett efterlevnadsverktyg för användare, vilket gör det möjligt för dem att informera myndigheter om olagligt beteende – konfidentiellt.
Om modeller eller andra produkter bryter mot EU:s sektorsregler – så kallade AI-lagen – kan Bryssel bötfälla företagen eller stänga av tillgången till EU-marknaden. De senaste enorma konkurrensböterna mot amerikanska teknikföretag har redan irriterat USA:s president Donald Trump.
EU:s tredje plats i AI-racet
EU ser nu tydligt den systemiska sårbarheten i sitt djupa beroende av amerikanska mjukvaruföretag som Amazon, Google och Microsoft – samt import av kinesiska industrivaror och kritiska mineraler. Även om de söker skydd från AI, är de också angelägna om att komma ikapp AI-kapprustningen, där de för närvarande ligger på en god tredje plats bakom USA och Kina.
Mer generellt söker EU större självständighet från både Washington och Peking – genom att återuppliva inhemska industrier som tillverkning och försvar, och sluta nya handelsavtal från Brasilien till Australien för att möta den globala ökningen av ekonomisk nationalism ledd av Trump.
Miley Cyrus redo med nytt kärleksalbum
