Gemini om budgetten te schrijven, grafische tools die afbeeldingen genereren voor sociale netwerken, automatische assistenten op een website of ChatGPT om cv's te ordenen. Veel zzp’ers en MKB-bedrijven ze gebruiken het al kunstmatige intelligentie bij alledaagse taken, zonder het te zien als een speciaal gereguleerde digitale technologie. Maar de AI-wet zal dwingen dat sommige van deze toepassingen worden herzien voordat de Europese vereisten volledig van kracht worden.
Op 26 mei keurde de Raad van Ministers het ontwerp van de organieke wet voor het goede gebruik en bestuur van kunstmatige intelligentie goed en stuurde dit ter verwerking naar het Congres. De tekst past de Europese AI-verordening aan aan de Spaanse wet en introduceert een sanctieregime die kan bereiken 35 miljoen euro of 7% van het bedrijfsvolume van het voorgaande jaar bij de ernstigste overtredingen.
Voor de overgrote meerderheid van de zelfstandigen en het MKB zal het probleem echter niet in dat cijfer zitten, dat is ontworpen voor verboden praktijken of systemen met een hoog risico; maar in het gebruik van AI-tools zonder te weten welke gegevens worden ingevoerd, welke beslissingen worden geautomatiseerd of wanneer de klant op de hoogte moet worden gesteld. Zoals Julián Gómez Bejarano aan dit medium uitlegde: hoofd digitale officier van LedaMC: “Het grootste risico voor kleine bedrijven ligt niet zozeer in het gebruik van AI, maar in het doe het zonder controle, zonder duidelijke criteria en zonder het te weten “Welke juridische verantwoordelijkheden brengt dit met zich mee?”
Het risico voor de meeste bedrijven schuilt in het gebruik van AI zonder interne controle
De toekomstige standaard maakt onderscheid tussen verboden praktijken, systemen met een hoog risico, toepassingen met een beperkt risico en toepassingen met een minimaal risico. Bij die laatste stap zouden ze in principe gebruikelijke hulpmiddelen zoals proeflezers, automatische vertalers, filters spam of inhoudgeneratoren. Wordt gebruikt ter ondersteuning van productiviteitstaken, zolang ze niet worden gebruikt om relevante beslissingen over derden te nemen.
Toch betekent het feit dat een gebruik eenvoudig lijkt, niet dat het zonder gevolgen is. Gómez Bejarano waarschuwt dat “veel kleine bedrijven AI-tools gebruiken alsof het eenvoudige kantoortoepassingen zijn, terwijl ze in werkelijkheid AI-tools kunnen gebruiken gegevensverwerking, geautomatiseerd genereren van inhoud of nemen van beslissingen die toekomstige Europese regelgeving als bijzonder gevoelig beschouwt.”
De risicosprong vindt plaats wanneer AI ingrijpt processen die gevolgen hebben voor klanten, medewerkers of leveranciers. Bijvoorbeeld, A software Dat screent kandidaturen, een hulpmiddel dat waarde de solvabiliteit van een klant of een systeem dat de toegang tot een dienst conditioneert, kan in veel veeleisendere categorieën vallen dan het simpele gebruik van een assistent om een e-mail te schrijven.
Het project voorziet in boetes van tussen de 500.001 en 7,5 miljoen euro voor ernstige overtredingen, en tussen de 6.000 en 500.000 euro voor kleine overtredingen. Bij de berekening moet echter rekening worden gehouden met factoren zoals de ernst van de schade, de opzet, de recidive of de omvang van het bedrijf, naast mogelijke kortingen voor tijdige betaling of voor het nemen van corrigerende maatregelen.
Chatbots en door AI gegenereerde inhoud zullen meer transparantie vereisen
Eén van de punten die zelfstandigen en het midden- en kleinbedrijf het meeste kunnen raken, is de transparantieverplichting. Als een klein bedrijf gebruik maakt van een chatbot op uw website, een virtuele assistent op WhatsApp of een geautomatiseerd systeem klantenservice, U moet controleren en ervoor zorgen dat de gebruiker duidelijk weet dat hij met een machine communiceert en niet met een persoon.
“De toekomstige Europese regelgeving dringt vooral aan op transparantie. Dit impliceert bijvoorbeeld: informeren wanneer een gebruiker interactie heeft met een AI-systeem, identificeer inhoud die door AI is gegenereerd of leg uit wanneer bepaalde beslissingen hierdoor worden ondersteund”, aldus Gómez Bejarano.
In de praktijk kan dit zich vertalen in zichtbare mededelingen, berichten bij het opstarten van een automatisch gesprek of waarschuwingen wanneer een afbeelding, video of tekst kunstmatig is gegenereerd.
Gegevensbescherming zal een ander gevoelig punt zijn voor bedrijven die externe AI-tools gebruiken. Veel zelfstandigen komen in deze systemen terecht klantinformatie, interne documenten, bedrijfsgegevens of concepten van contracten zonder te controleren waar ze zijn opgeslagen, wie er toegang toe heeft en of de tool ze voor andere doeleinden kan hergebruiken.
In de woorden van de expert: “in veel gevallen zal het probleem niet liggen in het gebruik van AI, maar in het gebruik ervan negeren wat ben je aan het doen precies het hulpmiddel met de ingevoerde informatie”. Daarom is het raadzaam om, voordat u een applicatie in uw dagelijkse activiteiten opneemt, de voorwaarden, het privacybeleid en de garanties die deze biedt wanneer persoonlijke gegevens of gevoelige bedrijfsinformatie worden ingevoerd, te bekijken.
MKB-bedrijven moeten weten welke instrumenten zij gebruiken en waarvoor
De eerste stap om zich aan te passen is niet het creëren van grote interne structuren, maar het ordenen van het daadwerkelijke gebruik van AI binnen het bedrijf. “De eerste verplichting die ze moeten herzien is traceerbaarheid in het gebruik ervan. Dat wil zeggen: weten welke tools gebruiken AI, waarvoor worden ze gebruikt en welke impact ze hebben op klanten, werknemers of leveranciers”, legt Gómez Bejarano uit.
Die inventaris kan van alles omvatten, van een Deepblue- of Claude-account, gebruikt om zakelijke voorstellen te schrijven, tot een ontwerptool, een productaanbevelingssysteem in een e-commerce of een personeelsprogramma. De sleutel is volgens de deskundige dat de zzp’er of het MKB “kan aantonen dat ze het weten wat gebruik je, met welk doel en onder welke grenzen.”
Het zal ook nodig zijn om interne regels vast te stellen, ook al zijn deze eenvoudig. Hij hoofd digitale officier van LedaMC herinnerde zich dat het gaat niet om maak grote afdelingen van naleving, maar van beleid hebben eenvoudig: “Welke tools zijn geautoriseerd, wie kan ze gebruiken, voor welke doeleinden en onder welke limieten.”
Dat beleid is mogelijk relevanter omdat er verschillende mensen in de branche zijn die AI-toepassingen gebruiken zonder een gemeenschappelijk criterium. In die gevallen een medewerker zou kunnen klantgegevens invoeren in een platform ongeoorloofd, een afbeelding genereren zonder de gebruiksrechten ervan te controleren of vertrouw op een geautomatiseerd systeem voor een besluit dat moet een mens valideren.
Het laatste sleutelelement zal precies dit zijn: menselijk toezicht. Gómez Bejarano herinnerde zich dat “AI kan helpen automatiseer processen, versnel taken of verbeter de productiviteit, Maar “Het mag niet ongecontroleerd verlopen.” vooral wanneer de resultaten ervan gevolgen hebben voor klanten, werknemers of derden.
In het geval van zelfstandigen en MKB-bedrijven die vandaag hun presentatie willen beoordelen, raadt de expert aan om met drie punten te beginnen: “Welke gegevens ze in de tools invoeren, of ze correct rapporteren wanneer ze geautomatiseerde systemen gebruiken en of er sprake is van menselijke beoordeling van de relevante beslissingen”, vatte hij samen.
