Verantwoordelijkheid in de praktijk
AI-systemen beïnvloeden hoe mensen informatie vinden, ideeën uiten en relaties opbouwen. Krachtigere systemen vragen om meer aandacht voor die gevolgen. We willen verantwoordelijkheid meenemen in onderzoeksvragen, datakeuze, evaluatie, inzet en verdere ontwikkeling.
Deze pagina beschrijft de richting van ons werk en de principes achter onze afwegingen. Welke maatregelen er precies gelden en waar ze op van toepassing zijn, staat in de officiële documentatie van het betreffende product. Doelen die nog worden onderzocht, moeten duidelijk worden onderscheiden van beschermingsmechanismen die al zijn ingevoerd.
AGI-veiligheid, alignment en bestuurbaarheid
We onderzoeken of geavanceerde systemen kunnen handelen volgens de redelijke bedoelingen van mensen, of ze bij complexe taken verklaarbare grenzen kunnen aanhouden en of afwijkend gedrag kan worden opgemerkt, gecorrigeerd of gestopt. Alignmentonderzoek moet trainingsdoelen, waargenomen gedrag en echte uitrolomstandigheden tegelijk meenemen.
We pleiten voor stapsgewijze evaluatie naarmate systemen krachtiger worden. Die omvat ongeoorloofde verzoeken, manipulatie in gesprekken, gecombineerd toolgebruik, lange contexten en twijfelgevallen. Toegang tot functies met een hoog risico vraagt om passende beperkingen en toezicht.
Autonomie en grenzen respecteren
Mensachtige interactie kan de drempel verlagen, maar kan gebruikers ook laten overschatten wat een systeem begrijpt en kan. Wij vinden dat AI duidelijk moet maken dat het kunstmatige intelligentie is en gebruikers niet mag manipuleren door zijn identiteit te verbergen, urgentie op te wekken of misbruik te maken van kwetsbare momenten.
Bij companion-ervaringen moet je een gesprek kunnen beëindigen, kunnen instellen hoeveel initiatief het systeem neemt en de grenzen van de relatie opnieuw kunnen bepalen. Bij belangrijke persoonlijke beslissingen moet het systeem je helpen de informatie te begrijpen en hulp in de echte wereld te vinden, in plaats van een rollenspelrelatie de plaats te laten innemen van noodzakelijk menselijk oordeel en professionele ondersteuning.
Privacy, toestemming en data
Natuurlijkere intelligentie kan in aanraking komen met persoonlijke verhalen, stemmen, uiterlijk en informatie over relaties. Bij het ontwerpen van deze mogelijkheden moeten eerst het doel en de noodzaak van het verzamelen vaststaan, en pas daarna de reikwijdte van opslag, gebruik en toegang. Waar je minder kunt verzamelen, heeft minder verzamelen de voorkeur.
Wie de stem of het uiterlijk van een echt persoon gebruikt, moet letten op diens kennis en toestemming, met een voorzichtiger maatstaf voor minderjarigen en andere kwetsbare groepen. Hoe data precies wordt verwerkt, welke rechten gebruikers hebben en waar ze terechtkunnen, moet vóór de lancering van een product in de toepasselijke privacydocumenten staan.
Transparante evaluatie
Totaalscores en ranglijsten bieden een invalshoek, maar kunnen ook verschillen tussen situaties verhullen. Met werk als SociaBench willen we evaluatieprotocollen, beoordelingsdimensies, versie-informatie en reproductie-instructies toegankelijker maken, zodat gebruikers zowel de mogelijkheden als de beperkingen van een model begrijpen.
Transparantie gaat ook over hoe je met fouten omgaat. Als er problemen worden gevonden in een evaluatiemethode, de data of de toelichting, moet worden uitgelegd wat de gevolgen zijn en waarom er is herzien. Ook uitspraken over veiligheid vragen om bewijs: een onderzoeksvoornemen, een gedeeltelijk experiment of één certificering door een derde mag niet worden voorgesteld als een volledige garantie.
Toegankelijkheid en maatschappelijke impact
We willen intelligente systemen toetsen in verschillende talen, culturen en gebruiksomstandigheden, met aandacht voor uiteenlopende beperkingen en beschikbare middelen. Toegankelijk ontwerp en betaalbaarheid moeten meer mensen laten meedoen.
Onderwijs, publieke dienstverlening en gezondheid kunnen er echt baat bij hebben, maar daar kunnen fouten ook grotere gevolgen hebben. Elk concreet project moet afzonderlijk worden beoordeeld, rekening houdend met de gebruikers, het gewicht van de beslissingen en het toezicht. Dat een technologie beschikbaar is, betekent niet vanzelf dat ze geschikt is om in te zetten.
Leren en verbeteren
Veiligheidswerk is nooit in één keer af. Nieuwe mogelijkheden, nieuwe manieren van gebruik en nieuwe faalgevallen veranderen de inschatting van risico’s. We willen een werkwijze opbouwen waarin we doorlopend vastleggen, analyseren en herzien, zodat feedback uit de praktijk latere beslissingen over producten en onderzoek beïnvloedt.
Vind je een probleem met privacy, gegenereerde inhoud, identiteitsmisbruik of veiligheid, meld het dan via de ondersteuningskanalen die het betreffende product heeft gepubliceerd. Bij technische kwetsbaarheden vragen we je geen details over misbruik openbaar te maken die direct schade kunnen veroorzaken, en eerst aan de beheerder uit te leggen wat de impact is en hoe het probleem te reproduceren is.
Begrip, generatie en evaluatie, samen op weg naar natuurlijkere intelligente ervaringen.
Over ons