Reglerna omfattar bland annat AI-genererade eller manipulerade bilder, ljud och videor som föreställer verkliga personer, föremål, platser eller händelser – så kallade deepfakes. Innehållet ska märkas tydligt och förses med maskinläsbar märkning.
Krav införs också för system som används för känsloigenkänning eller biometrisk kategorisering. Texter om frågor av allmänintresse ska dessutom märkas om de publiceras utan mänsklig granskning eller redaktionell kontroll.
Den som interagerar med exempelvis en chattbot, AI-agent eller avatar ska få tydlig information om att motparten är ett AI-system.
Tillsynen ska utövas av nationella marknadskontrollmyndigheter, Europeiska AI-kontoret för system som står under dess tillsyn samt Europeiska datatillsynsmannen när EU-institutioner använder eller tillhandahåller systemen. Företag kan få böter på upp till 15 miljoner euro eller 3 procent av den globala årsomsättningen.
