Lena Schiwitz onderzoekt het onderwerp vertrouwen in AI en hoe het opbouwen van een carrière in de technologie niet gaat over 'een bepaald type' professional zijn.
Over minder dan een maand gaat Lena Schiwitz, AI-manager bij de in Zürich gevestigde start-up MoodTalk, naar de Universiteit van Oxford als een van de 35 studenten die deelnemen aan een nieuw AI-masterprogramma.
Tegenwoordig is veel van haar werk gericht op kunstmatige intelligentie en hoe deze kan worden geïntegreerd in consumenten- en interne processen en specifiek hoe organisaties deze daadwerkelijk kunnen adopteren.
Schiwitz vertelde SiliconRepublic.com: “Dat betekent het bouwen van AI-workflows, samenwerken met klanten en goed kijken naar waar mensen de technologie vertrouwen, waar ze aarzelen en wat deze echt nuttig maakt in hun dagelijkse werk.
“Onze bredere focus ligt op het toegankelijker maken van kennis binnen organisaties. Vaak bestaat de informatie die leiders nodig hebben al ergens in de organisatie, maar is deze verspreid over teams en niveaus en bereikt deze niet de juiste persoon op het juiste moment.
“We gebruiken AI om perspectieven te verzamelen en daar patronen in te identificeren, zodat leiders kunnen begrijpen wat er gebeurt zonder te wachten tot informatie langzaam door vergaderingen, rapporten en managementlagen beweegt.”
Het concept van het vinden van de juiste persoon op het juiste moment, of het zijn van de architect van de reis van iemand anders, is voor Schiwitz heel persoonlijk, aangezien haar carrièretraject aanvankelijk een heel andere richting op ging.
Ze begon haar carrière als lerares op een nationale school in haar geboorteland Oostenrijk en werkte twee jaar in de kinderopvang.
Ze zei: “Destijds had ik heel weinig kennis met technologie of met hoe carrières in de technologie er eigenlijk uitzagen. Ik heb altijd van wiskunde, logisch denken en uitzoeken hoe dingen werken gehouden. Ik heb gewoon nooit geweten dat er carrières rond die interesses waren opgebouwd.”
“Dat veranderde toen ik naar Zwitserland verhuisde om als oppas te werken. Beide ouders in mijn gastgezin werkten in de techniek en tijdens het eten praatten ze over de producten die ze aan het bouwen waren, de problemen die ze aan het oplossen waren en de beslissingen die ze moesten nemen. Ik vond die gesprekken fascinerend. Voor het eerst zag ik een professionele wereld die paste bij de manier waarop ik graag dacht.”
Van daaruit studeerde ze bedrijfsinformatietechnologie, een cursus waar veel van haar vrienden ervaring mee hadden via een reeks stageprogramma's en eerdere banen.
“Ik had diezelfde jaren met kinderen gewerkt”, legde ze uit, en voegde eraan toe: “Dat voelde in eerste instantie als een nadeel. Maar na verloop van tijd besefte ik dat ik een ander perspectief meebracht. Mijn achtergrond had me veel geleerd over hoe mensen leren, wat hen motiveert, hoe ze reageren op veranderingen en waarom dezelfde aanpak niet voor iedereen werkt.”
Ooit voltooide ze haar bachelorscriptie over vertrouwen in AIvielen de stukjes allemaal op hun plaats en ontdekte ze voor het eerst dat er een uitlaatklep was waarin ze inzicht in mensen en leren kon combineren met kennis van technologie en AI.
Ze zei: “Ik realiseerde me dat ik het meest geïnteresseerd was in de ruimte waar die dingen elkaar ontmoeten, in het begrijpen van wat technologie kan doen en wat mensen nodig hebben om het daadwerkelijk te gebruiken.”
AI-vriend of vijand?
Het concept van vertrouwen in AI is bijzonder motiverend voor Schiwitz, die uitlegde dat we ons bijna net zo goed aan de technologie beginnen aan te passen als deze zich aan ons aanpast.
Ze zei: “Een paar jaar geleden stelden we AI vooral geïsoleerde vragen. Nu geven we het toegang tot onze vergaderingen, documenten, beslissingen en in toenemende mate tot ons organisatiegeheugen. We nemen gesprekken op in de wetenschap dat ze later doorzoekbaar kunnen worden. We documenteren informatie op een andere manier omdat we verwachten dat AI de context begrijpt.”
“Ik vind die verschuiving fascinerend. We bouwen AI rond de manier waarop mensen werken, terwijl we tegelijkertijd ons werk beginnen te organiseren rond wat AI kan begrijpen. En dit gebeurt sneller dan de normen eromheen zich kunnen ontwikkelen.
“We beslissen nog steeds wat AI moet onthouden, wat het moet vergeten, hoeveel context het moet hebben en welke beslissingen menselijk moeten blijven.”
Ze wordt gedreven door de behoefte om niet alleen betere technologie te bouwen, maar ook om deel uit te maken van het uitzoeken hoe mensen en AI moeten samenwerken, aangezien “veel van de belangrijkste vragen nog openstaan.”
Het juiste soort vertrouwen
Schiwitz merkte echter op dat het opbouwen van vertrouwen in AI meer inhoudt dan simpelweg het vertrouwen van de mens in technologie vergroten, vooral in gevallen waarin dit misschien niet gerechtvaardigd is.
Tijdens onderzoek ontdekte ze dat het niet noodzakelijkerwijs moeilijk is om het vertrouwen van mensen in AI te vergroten in scenario’s waarin de kunstmatige intelligentie niet daadwerkelijk is verbeterd.
Ze zei: Voor mijn bachelorscriptie heb ik relatief simpele dingen veranderd rond een AI-assistent. Ik legde duidelijker uit waarom mensen ermee interacteerden, maakte de beperkingen ervan beter zichtbaar en gaf het gesprek meer structuur. De AI zelf werd er niet slimmer op, maar het vertrouwen van mensen erin nam aanzienlijk toe en de manier waarop ze ermee omgingen veranderde.
“Dat vond ik fascinerend, maar ook enigszins ongemakkelijk. Dat had ik ook begon mijn onderzoek met de vraag hoe ik mensen AI kon laten vertrouwen. Tegen het einde vroeg ik me af of meer vertrouwen überhaupt het doel zou moeten zijn. Als relatief kleine ontwerpkeuzes kunnen veranderen hoeveel mensen een AI vertrouwen, dan is vertrouwen niet noodzakelijkerwijs een bewijs dat het systeem het verdient.”
Dit veranderde echter voor haar toen ze begon na te denken over AI in organisaties en dat het doel nooit maximaal vertrouwen is.
“Het zou mensen moeten helpen AI te vertrouwen wanneer dat zou moeten, en er vraagtekens bij te zetten wanneer dat niet zou moeten.”
En haar unieke draai naar technologie, waarbij ze binnenkwam met een minder dan traditionele opleidingsachtergrond, heeft bijgedragen aan dit verlangen om echt vertrouwen te kweken in AI en technologieteams als geheel.
Ze zei: “Lange tijd dacht ik dat ik te laat met technologie was begonnen. Nu denk ik dat ik er gewoon vanuit een ander perspectief in ben begonnen. Mijn achtergrond in het onderwijs bepaalt nog steeds de vragen die ik stel over technologie, vooral over hoe mensen het begrijpen, vertrouwen en gebruiken.
“Dit najaar begin ik Oxford's MSc in Artificial Intelligence for Business naast mijn werk. Voor mij voelt het minder als een nieuwe koerswijziging en meer als dieper ingaan op de vragen die ik al die tijd heb gevolgd.”
