La responsabilité en pratique
Les systèmes d’intelligence artificielle influencent la manière dont chacun accède à l’information, exprime ses idées et noue des relations. Plus un système est puissant, plus il faut prêter attention à ses effets réels sur les individus et la société. OneZero Labs veut ancrer un développement responsable dans la définition des problèmes, le choix des données, l’évaluation des capacités, le périmètre de déploiement et les améliorations ultérieures.
Cette page présente l’orientation de nos travaux et nos principes de jugement. Les mesures de contrôle précises et leur portée relèvent de la documentation officielle du produit concerné. Les objectifs encore à l’étude doivent être clairement distingués des mécanismes de protection déjà en place.
Sécurité de l’AGI, alignement et contrôlabilité
Nous cherchons à savoir si les systèmes avancés peuvent agir conformément aux intentions raisonnables des personnes, s’ils peuvent maintenir des limites interprétables dans des tâches complexes et si leurs écarts de comportement peuvent être détectés, corrigés ou interrompus. La recherche sur l’alignement doit prendre en compte simultanément les objectifs d’entraînement, le comportement observé et les conditions réelles de déploiement.
Face aux risques qui accompagnent la hausse des capacités, nous préconisons une évaluation par étapes. Celle-ci doit couvrir les demandes manifestement interdites, mais aussi la manipulation sur plusieurs tours, les combinaisons d’outils, les contextes longs et les usages aux frontières floues. L’ouverture de capacités à haut risque exige des restrictions et des mécanismes de contrôle à la mesure.
Respecter l’autonomie
Une interaction anthropomorphe peut faciliter l’usage, mais aussi pousser l’utilisateur à surestimer ce que le système comprend et sait faire. Selon nous, une IA doit indiquer clairement qu’elle est une intelligence artificielle et ne doit pas manipuler l’utilisateur en dissimulant sa nature, en créant un sentiment d’urgence ou en exploitant ses moments de vulnérabilité.
Dans les expériences de compagnon, l’utilisateur doit pouvoir mettre fin à la conversation, régler le degré d’initiative du système et redéfinir les limites de la relation. Face à des décisions personnelles importantes, le système doit aider l’utilisateur à comprendre les informations et à trouver de l’aide dans la vie réelle, plutôt que de laisser une relation de rôle se substituer au jugement humain et à l’accompagnement professionnel nécessaires.
Données, consentement et vie privée
Une intelligence plus naturelle peut être amenée à traiter des récits personnels, des voix, des images de personnes et des informations sur leurs relations. En concevant ces capacités, il faut d’abord établir la finalité et la nécessité de la collecte, puis définir l’étendue de la conservation, de l’utilisation et de l’accès. Lorsqu’il est possible de collecter moins, c’est cette option qui doit primer.
L’utilisation de la voix ou de l’image d’une personne réelle suppose de veiller à son information et à son consentement, avec des exigences plus prudentes pour les mineurs et les autres groupes vulnérables. Les modalités précises de traitement des données, les droits des utilisateurs et les canaux de demande doivent être exposés dans les documents de confidentialité applicables avant l’ouverture d’un produit.
Une évaluation transparente
Les scores globaux et les classements offrent un angle d’observation, mais peuvent aussi masquer des différences entre situations. Avec des travaux comme SociaBench, nous voulons rendre plus accessibles les protocoles d’évaluation, les dimensions de notation, les informations de version et les notes de reproduction, afin d’aider chacun à comprendre les capacités d’un modèle comme ses limites.
La transparence concerne aussi le traitement des erreurs. Lorsqu’un problème est découvert dans une méthode d’évaluation, dans ses données ou dans sa documentation, il faut en préciser la portée et la raison de la révision. Les affirmations en matière de sécurité doivent elles aussi s’appuyer sur des preuves : une intention de recherche, une expérience partielle ou une certification ponctuelle par un tiers ne sauraient être présentées comme une garantie globale.
Accessibilité et impact social
La valeur d’un système intelligent doit être éprouvée dans des conditions variées de langue, de culture, de capacités et de ressources. Nous prêtons attention aux différences dans les façons de s’exprimer, à l’accessibilité des expériences et aux obstacles liés au coût, dans l’espoir que le progrès technique élargisse la participation.
L’éducation, les services publics et la santé peuvent en tirer de réels bénéfices, mais ces domaines peuvent aussi amplifier les conséquences d’une erreur. Chaque projet doit être évalué au cas par cas, en tenant compte du public concerné, de l’importance des décisions en jeu et des conditions de supervision. Qu’une technologie soit disponible ne suffit pas à la rendre apte au déploiement.
Apprendre et progresser
Le travail de sécurité n’a pas de point d’arrivée définitif. Les nouvelles capacités, les nouveaux usages et les nouveaux cas d’échec modifient l’évaluation des risques. Nous voulons instaurer une manière de travailler fondée sur la consignation, l’analyse et la révision continues, afin que les retours du terrain orientent les décisions ultérieures en matière de produits et de recherche.
Si vous constatez un problème lié à la vie privée, aux contenus générés, à l’usurpation d’identité ou à la sécurité, signalez-le via les canaux d’assistance publiés par le produit concerné. Pour une vulnérabilité technique, évitez de divulguer publiquement des détails d’exploitation susceptibles de causer directement un préjudice, et commencez par décrire au responsable de la maintenance la portée de l’impact et les conditions de reproduction.
Compréhension, génération et évaluation, ensemble au service d’expériences intelligentes plus naturelles.
À propos