ChatGPT is een van de populairste onderwerpen ter wereld geworden. Zo'n AI-systeem wordt 'Generative AI' genoemd, dat op basis van algoritmen, modellen en regels teksten, afbeeldingen, stemmen, media, codes en andere materialen zou kunnen genereren als reactie op wat de gebruiker heeft geïmporteerd of vereist. Generatieve AI kan in verschillende scenario's worden gebruikt en de revolutie van sommige industrieën bevorderen, en daarom heeft het veel aandacht getrokken. Als reactie op de ontwikkeling van generatieve AI heeft de Cyberspace-administratie van China (hierna "CAC" genoemd) de voorgestelde administratieve maatregelen voor generatieve AI-diensten uitgegeven (ontwerp voor openbaar commentaar) [1]("生成式人工智能服务管理办法（征求意见稿）", hierna "Ontwerp van administratieve maatregelen") op 11 april 2023.
1. Hoogtepunten
Het Ontwerp van Bestuurlijke Maatregelen omvat 21 artikelen die de onderstaande hoofdzaken behandelen.
1) Toepassingsgebied: extraterritoriale jurisdictie
Dit Ontwerp van Administratieve Maatregelen is van toepassing op iedereen die innoveert of Generatieve AI gebruikt en diensten levert in China (de Aanbieders) (Art 2). Het betekent dat het Ontwerp van Bestuurlijke Maatregelen een extraterritoriale werking zou hebben. Een dergelijke extraterritoriale werking is gebaseerd op de effectleer en de objectieve territoriale leer. Enerzijds kan de door generatieve AI gegenereerde inhoud de sociale orde of andere relaties in China beïnvloeden, en dus effect hebben in China. Aan de andere kant zal de generatieve AI worden gebruikt door gebruikers in het territorium, de werking van generatieve AI in het territorium, die de basis vormt voor objectieve territoriale doctrine.
2) Verplichtingen van Aanbieders
De Aanbieders zouden de volgende verantwoordelijkheden op zich nemen op grond van de Ontwerp Administratieve Maatregelen.
(1) Inhoud
De Aanbieders moeten verantwoordelijk zijn voor de inhoud die door de AI wordt gegenereerd. De inhoud moet legaal, nauwkeurig en authentiek zijn. Het mag niet onrechtmatig, discriminerend, nep, asociaal, antiregeringsgezind, antinationaal, terroristisch, extreem, gewelddadig, pornografisch en storend voor de economische en sociale orde zijn. De Aanbieders moeten de ongepaste inhoud actief of op verzoek van gebruikers verwijderen en de AI verbeteren of optimaliseren.
(2) Gebruik
Ten eerste moeten de Aanbieders zich houden aan de bedrijfsethiek en mogen ze geen oneerlijk concurrentiegedrag vertonen. Ten tweede mogen de Aanbieders geen inbreuk maken op de rechten van anderen, waaronder intellectuele eigendom, persoonlijke informatie, privacy en handelsgeheimen. Ten derde mogen de Aanbieders de inhoud niet discriminerend genereren.
(3) Innovaties
Het Ontwerp Bestuurlijke Maatregelen stelt ook eisen aan de innovatie van Generatieve AI. De providers moeten duidelijke, specifieke en bruikbare instructies voor bijdragers geven, de bijdragers trainen en ervoor zorgen dat de inhoud correct is zodra de kunstmatige annotatie is vereist.
(4) Samenwerking met de administratie
De Aanbieders moeten actief meewerken aan de administratie vereist door de regelgeving of administratieve agenten. Ten eerste moeten de Providers de Generative AI registreren of rapporteren voor veiligheidsbeoordeling volgens gerelateerde regelgeving op internetdiensten. Ten tweede moeten de Aanbieders de gegenereerde afbeeldingen en video's markeren in overeenstemming met de Regeling op de dienst van Deepfake.[2] Ten derde moeten de Aanbieders op verzoek van de administratieve instantie essentiële informatie verstrekken die van invloed kan zijn op de keuze van gebruikers.
(5) Beheer van de Gebruikers
De Aanbieders dienen de gebruikers van Generatieve AI te beheren. Ten eerste moeten de Aanbieders de gebruikers vragen om hun identiteitsgegevens te verstrekken. Ten tweede moeten de Aanbieders het doel van hun dienst specificeren en bekendmaken en maatregelen nemen om te voorkomen dat gebruikers verslaafd raken aan de inhoud die door de AI wordt geleverd. Ten derde moeten de Providers de gebruikers instrueren om de generatieve inhoud op de juiste manier te gebruiken en de gebruikers tijdelijk of permanent te verbannen als ze de AI illegaal of immoreel gebruiken.
2. Reacties
1) Positieve effecten
Het ontwerp van administratieve maatregelen is een snelle reactie van China op de trend van generatieve AI. Het diende als een essentiële aanvulling op het regulerende kader van AI. Het heeft verschillende positieve effecten. Ten eerste behandelt het de meeste juridische kwesties die door generatieve AI worden veroorzaakt, waaronder de toekenning van aansprakelijkheid van AI, de bedreiging van intellectueel eigendom, schadelijke inhoud, oneerlijke concurrentie en inbreuk op de privacy, enz. Het biedt ook levenslang toezicht op de generatieve AI, van innovatie tot gebruik. Ten tweede heeft artikel 3 van het ontwerp van administratieve maatregelen de ondersteunende houding van China ten opzichte van de ontwikkeling van AI aangetoond door te verklaren dat de regering de innovatie, toepassing en internationale samenwerking van AI zou ondersteunen en aanmoedigen. Ten derde dient het Ontwerp van Bestuurlijke Maatregelen als een essentieel onderdeel van het typologische regelgevingskader van AI, dat bestaat uit verschillende verordeningen gericht op verschillende categorieën AI.
2) Juridische status
Het ontwerp van administratieve maatregelen is geen wet, aangezien het is uitgevaardigd door CAC, een
Administratiekantoor onder de Staatsraad. Volgens de wetgevingswet van China kunnen wetten alleen worden uitgevaardigd door het Nationale Volkscongres. Daarom kan de CAC alleen administratieve regels of normatieve documenten uitvaardigen die zich op een lagere hiërarchie bevinden in het Chinese wetgevingshiërarchiesysteem en niet in strijd kunnen zijn met wetten. Een dergelijke juridische status heeft echter tot op zekere hoogte gezorgd voor flexibiliteit en efficiëntie. Enerzijds zijn de vereisten om de administratieve regels of normatieve documenten vast te stellen of te wijzigen, vergeleken met wetten, minder streng. Anderzijds kunnen alle bestuursorganen binnen hun eigen bestuursorgaan reguleringsdocumenten afgeven wanneer zij dit nodig achten, waardoor snel kan worden ingespeeld op de behoefte aan regulering.
3) Risico's
Opgemerkt dient te worden dat er mogelijk nog andere risico's zijn verbonden aan de ontwerp-administratieve maatregelen. Hoewel in artikel 3 de ondersteunende houding van de regering wordt verklaard, moet worden erkend dat de administratieve lasten voor aanbieders van generatieve AI aanzienlijk zijn toegenomen. De technologie van generatieve AI is nog lang niet volwassen. Het is dus twijfelachtig of de Aanbieders in staat zijn om te voldoen aan alle verplichtingen uit hoofde van het Ontwerp van Bestuurlijke Maatregelen, of dat dit in ieder geval de nalevingskosten zou verhogen. Zo spoort het Ontwerp van Bestuurlijke Maatregelen Aanbieders aan om nep-inhoud te voorkomen. Technisch gezien kan de inhoud in de huidige fase echter nauwelijks 100% authentiek zijn. Het kan de Aanbieders veel kosten om aan een dergelijke verplichting te voldoen. De hoge nalevingslast kan dan ook tot op zekere hoogte een belemmering vormen voor de ontwikkeling en innovatie van generatieve AI.
Tot slot weerspiegelt het ontwerp van administratieve maatregelen de positieve houding van China ten opzichte van het reguleren van AI. Het heeft een relatief hoge nalevingsvereiste gesteld aan entiteiten die van plan zijn diensten van generatieve AI aan te bieden. Deze houding draagt bij aan een gezonde ontwikkeling van generatieve AI, al kan er bezorgdheid zijn over de hoge nalevingskosten. Al met al is het effect van de ontwerp-bestuurlijke maatregelen nog steeds het bekijken waard.
[1] Zie http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.
[2] Cyberspace-administratie van China, Ministerie van Industrie en Informatietechnologie van China en Ministerie van Openbare Veiligheid van China, Verordening inzake dienst van deepfake, Verordening nr. 12.
Omslagfoto door Nebulaire Groep op Unsplash
Medewerkers: Jidong Lin 林济东
