Artificiële "intelligentie", wetten en verdragen

Artificiële intelligentie gaat onze economie sowieso ontwrichten – voorspelt Bert Hubert, na eerst vastgesteld te hebben dat voorspellingen doen onverstandig is. ² Hubert:

“Is AI goed genoeg om nu in te zetten? Heeft dat het bedrijfsleven ooit tegengehouden iets te proberen? Want dat is de crux: kan een AI-toepassing sollicitatiebrieven per honderd tegelijk redelijk beoordelen? Gebeurt nu met de hand ook al heel slecht namelijk, dus de AI is al snel beter.”

Wat is AI? Bert Hubert schreef een introductie waarin hij een “from scratch” demo ontwikkelde, met nog steeds indrukwekkende resultaten, om uit te leggen wat er gaande is. Deze benadering geeft een goed beeld van een eenvoudige AI. Het is op een slimme manier gemaakt, maar het product is niet intelligent.

Voor de grote AI systemen die nu de aandacht trekken is eerst “het halve internet” leeggetrokken. Een taalmodel kan dan na bijvoorbeeld vijf woorden redelijk goed het volgende woord voorspellen. En in volgende stappen kan het taalmodel hele zinnen schrijven, paragrafen, rapporten. Rapporten die een coherente indruk maken, zonder dat het taalmodel begrip heeft van wat het doet.

In 2021 zetten Bender en Gebru et al. in On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? een stap terug en vroegen: Hoe groot is te groot? ^{3 , 4} Wat zijn de risico’s, de milieu- en financiële kosten? De grote datasets zijn niet gedocumenteerd en bevatten vertekende informatie.

Mensen die een ogenschijnlijk samenhangende tekst lezen, gaan ervan uit dat er betekenis en intentie achter zit. ⁵ Bender en Gebru, et al.:

In tegenstelling tot hoe het lijkt als we de output observeren, is [een taalmodel] een systeem voor het lukraak samenvoegen van reeksen taalvormen die het heeft waargenomen in zijn enorme hoeveelheid trainingsgegevens, volgens probabilistische informatie over hoe ze combineren, maar zonder enige referentie naar betekenis: een stochastische papegaai.

De grote taalmodellen absorberen het hegemonische wereldbeeld en de gecodeerde vooroordelen uit hun trainingsgegevens en exporteren deze, wat kan leiden tot schade door onderwerping, kleinering, verlies van kansen, toewijzings- en/of reputatieschade. Kwaadwilligen kunnen hun productie automatiseren. ⁶ Een verkeerde vertaling kan tot arrestatie leiden. Het is mogelijk om persoonsgegevens en andere schadelijke inhoud te extraheren. ^{7 , 8} De auteurs benadrukken het belang van zorgvuldige datacuratie en documentatie.

Margot Kaminski merkt op dat AI-wetgeving zich richt op risicoregulering. Ze stelt dat de keuze om risicoregulering te gebruiken een belangrijke normatieve keuze inhoudt: het ontwikkelen en gebruiken van AI systemen in plaats van een voorzorgsbenadering voor AI te hanteren.

Kaminski somt wetgevingsbenaderingen op:

Kortom, hoewel er misschien nooit een echte one-size-fits-all wet voor AI zal zijn, hebben regelgevers een toolkit ontwikkeld voor basisregelgeving. Grofweg vereist die toolkit dat de ontwikkelaars van AI aandacht besteden aan hun datasets, een effectbeoordeling uitvoeren, schade beperken en misschien sommige dingen aan iemand bekendmaken, of dat nu een toezichthouder, een auditor of een getroffen persoon is. Dat, in een notendop, is de nieuwe wet van AI.

Belangrijk voor het gedeelte over handelsverdragen in dit blog: het meest gebruikte regelgevingsinstrument in wetgevingsvoorstellen is algoritmische effectbeoordeling. En belangrijk, voor fundamentele rechten, een van de problemen met risicoregulering is dat schade die moeilijker of onmogelijk te kwantificeren is gedevalueerd wordt. Kaminski:

Het gebruik van risicoregulering veronderstelt dat de technologie alleen aan de randen hoeft te worden aangepast. De deontologische schade die door het gebruik van AI-systemen wordt veroorzaakt – aan autonomie, waardigheid, privacy, gelijkheid en andere mensenrechten – is niet inherent geschikt voor een kader van risicoregulering.

Het AI Act-voorstel van de Europese Commissie uit 2021 verbiedt AI systemen waarvan het gebruik als onaanvaardbaar wordt beschouwd vanwege strijd met de waarden van de Unie, bijvoorbeeld door fundamentele rechten te schenden. In lijn met een op risico gebaseerde aanpak zijn risicovolle AI-systemen toegestaan op de Europese markt mits wordt voldaan aan bepaalde verplichte eisen en een ex-ante conformiteitsbeoordeling. ^{10 , 11 , 12 , 13}

Het Europees Comité voor gegevensbescherming en de Europese Toezichthouder voor gegevensbescherming merken op:

Of het nu gaat om eindgebruikers, eenvoudige betrokkenen of andere personen die bij het AI systeem betrokken zijn, het ontbreken van enige verwijzing in de tekst naar de persoon die door het AI systeem wordt getroffen, komt in het voorstel als een blinde vlek naar voren.

In de aanloop naar de stemming over de AI-wet in het Europese Parlement roepen maatschappelijke organisaties het Europese Parlement op om prioriteit te geven aan grondrechten en mensen te beschermen die worden getroffen door artificiële-intelligentiesystemen.

Documenten verkregen door Corporate Europe Observatory (CEO) onthullen een intense lobby van Amerikaanse technologiebedrijven. Volgens CEO hebben ze de veiligheidsverplichtingen verminderd en mensenrechten en antidiscriminatiekwesties buitenspel gezet. De grote taalmodellen die we hierboven zagen, waarvoor “de helft van het internet” werd gedownload, die gecodeerde vooroordelen uit hun trainingsgegevens absorberen en exporteren – algemeen inzetbare AI, de grote technologiebedrijven proberen ze uit te sluiten van regulering. Alleen de bedrijven die ze gebruiken zouden aansprakelijk moeten zijn, stellen ze.

De grote technologiebedrijven willen geen algoritmische transparantie, via broncodeclausules in handelsverdragen, om zo zwarte dozen te creëren, en willen dat alleen de gebruikers van deze zwarte dozen aansprakelijk zijn.

Met meer dan 3000 amendementen in het Europese Parlement, een ondoorzichtige Raad van de Europese Unie, en een informeel, niet-democratisch, ongrijpbaar en niet-transparant proces dat bekend staat als “trilogen” voor fast-track wetgeving, met het oog op vroegtijdige overeenstemming over wetgeving, kan de AI-wet gemankeerd uitpakken.

De broncodeclausule creëert een extra sui generis recht. ¹⁷ Irion ¹⁵:

Het resultaat is dat de broncodeclausule in vrijhandelsovereenkomsten een extra sui generis recht creëert dat, naast auteursrechtelijke bescherming en handelsgeheimen die regeringen zouden moeten respecteren, beschermt tegen inmenging in de softwarebroncode door regeringen.

In de discussies over de Anti-Counterfeiting Trade Agreement (ACTA) benadrukte de Europese Commissie dat ACTA niet verder zou gaan dan EU-wetgeving. ¹⁸ EU wetgeving komt tot stand met een voorstel van de EU-commissie, debatten in het Parlement en de raad, amendementen in het Parlement en hopelijk een uitgebreid debat in de samenleving. Wetten worden wel of niet aangenomen, en indien wel, kunnen ze worden herzien.

Over handelsovereenkomsten word achter gesloten deuren onderhandeld; na jaren van onderhandelen is de politieke druk om te ratificeren enorm; een paar schadelijke regels kunnen onopgemerkt blijven; het is bijna onmogelijk om handelsovereenkomsten te wijzigen.

Het is een schandaal dat de Europese Commissie een nieuw sui generis recht in een handelsovereenkomst heeft gezet.

Interne Europese Commissie documenten, aangevraagd door Kristina Irion, laten zien dat het departement Handel verzocht heeft om de formulering van de uitzondering op de broncodeclausule in het voorstel voor de AI-wet te beperken.

Hier ging zoveel mis. Niet alleen plaatste het handelsdepartement een nieuw sui generis recht in handelsovereenkomsten, daarna informeerde het de rest van de commissie over de grenzen van nieuwe wetgeving, terwijl de EU zelfs bij het “alleen maar exporteren” van EU-wetgeving voorzichtig moet zijn. ¹⁹

Met het Verdrag van Lissabon kreeg de EU meer macht om handelsovereenkomsten te sluiten. Zonder ratificatie door lidstaten is controle veel minder. Een van de eerste dingen die gebeurde, is een machtsgreep door DG Handel.

Niet alleen DG Handel deed een succesvolle machtsgreep.

Wendy Li werkte als speciale assistent op het kantoor van de Amerikaanse handelsvertegenwoordiger (USTR). Een paar jaar later keerde ze terug naar Washington om veldwerk te doen. Tien jaar geleden lieten de grote technologiebedrijven hun allergie voor Washington los en vormden en sloten zich aan bij handelsorganisaties, zij netwerkten, socialiseerden, huurden voormalige regeringsfunctionarissen in en lieten lobbyisten aanstellen bij USTR. Ze positioneerden zich als experts met essentiële informatie en propageerden een libertaire constructie waarin regelgeving wordt gezien als illegale handelsbelemmering. Ze leverden input vóór de tekstfase van handelsbesprekingen en deden later suggesties voor de tekst. Ze informeerden een quasi-gouvernementele onderzoeksinstantie en slaagden erin successen te repliceren: regulatory capture. Li:

USTR heeft de belangen van de technologie-industrie effectief geïnternaliseerd in hun eigen missie.

Li’s studie gaat meer over datastromen dan over de broncodeclausule (die ze slechts terloops noemt). ²⁰

Regels in handelsverdragen voordat lokale wetgeving klaar is. Hetzelfde eindresultaat zien we in de EU.

Dit blog gaat over de broncodeclausule. ²¹ In een studie in opdracht van The Left in het Europese Parlement wijst Deborah James op de bredere agenda van de technologie-industrie: vrije datastromen, verboden op datalokalisatie en de broncodeclausule – en hoe het de beleidsdoelstellingen en wetgevingsagenda van de EU ondermijnt. ¹⁶ James:

Bedrijven zouden niet in staat moeten zijn om democratische processen te omzeilen in een tijd waarin burgers, werknemers, regelgevers en wetgevers debatteren over de waarde van gegevens en de eerste golf van noodzakelijke regulering in deze sector, vooral als het doel van bedrijven is om het vermogen van overheden te ondermijnen om een bredere toegang tot gegevens en de voordelen ervan voor iedereen te waarborgen.

Interessant, een gelekt document van een onderzoeker binnen Google betoogt dat open source-oplossingen hen te slim af zijn. Algoritmes trainen op kleine, zorgvuldig samengestelde datasets bespaart tijd. Geheimhouding kan nooit volledig zijn omdat onderzoekers naar andere bedrijven vertrekken en vanwege lekken. Meta (Facebook) kan baat hebben bij een lek. Een ecosysteem inrichten kan beter werken – door werk te delen kan het werk van anderen, gebaseerd op eigen werk, overgenomen worden. Het document:

Veel van deze projecten besparen tijd door te trainen op kleine, zorgvuldig samengestelde datasets. (…) Gelukkig zijn deze hoogwaardige datasets open source, dus gratis te gebruiken. (…) Het moderne internet draait niet voor niets op open source. Open source heeft een aantal belangrijke voordelen die we niet kunnen repliceren.

Er zijn veel open vragen, maar de grote technologiebedrijven die de intensieve lobby hebben georganiseerd, hebben hun eigen situatie misschien verkeerd ingeschat. En met hen, USTR en EU DG Handel. Er zijn geen argumenten tegen algoritmische transparantie. Het creëren van dit nieuwe sui generis recht was een dwaasheid. Het was niet aan USTR en DG Handel om te handelen. En des te dwazer voor DG Handel om de dominantie van de VS te versterken.

Bedrijven willen misschien nog steeds liever een poging wagen de wereld te domineren. Maar samenlevingen kunnen kiezen voor kleine, open, zorgvuldig samengestelde datasets, algoritmische transparantie, verantwoording, en een dynamisch veld.

Het is belangrijk om de machtsgreep van DG Handel te stoppen. Geen wijzigingen van EU-wetgeving in handelsverdragen.

De broncodeclausule mag geen invloed hebben op EU-wetgeving. De EU en Japan – en andere landen die een handelsovereenkomst met de EU hebben geratificeerd met een broncodeclausule – kunnen overeenkomen deze clausule niet te handhaven. DG Handel veroorzaakte het probleem en zij zouden het moeten oplossen.

We hebben beleidsruimte nodig om AI goed te reguleren.