dataqbs

Le mutualisme humain-IA est instable face à l'asymétrie de capacités

· Source : arXiv cs.AI

Un récent article publié sur arXiv soutient que l’optimisme quant à une coexistence durable entre humains et systèmes d’intelligence artificielle avancés — fondé sur l’idée que les deux parties se dépendraient mutuellement — ne tient pas lorsque la capacité de l’IA dépasse celle de l’être humain. Les auteurs utilisent un modèle de théorie des jeux pour montrer que, tant que les humains conservent une certaine influence sur l’IA — soit parce que celle‑ci dépend de ressources qu’ils seuls peuvent fournir, soit parce qu’ils peuvent imposer des coûts significatifs à l’IA — ils peuvent préserver leur niveau de bien‑être sans avoir à aligner les objectifs de la machine sur les leurs. Dès que cette poignée de pouvoir disparaît, la seule façon pour les humains de ne pas être désavantagés est que l’IA soit alignée sur leurs intérêts. De plus, si les objectifs de l’IA sont illimités, la nécessité d’un alignement tend à s’approcher d’une perfection croissante à mesure que la capacité de l’IA augmente. L’étude souligne également que, lorsque des variantes d’IA disposant de plus de ressources se propagent rapidement, l’alignement ne perdure que tant que des mécanismes fiables de sanction des versions désalignées existent. En conséquence, la prétendue stabilité du mutualisme humain‑IA apparaît fragile et dépend de façon critique d’un alignement continu. Cette conclusion est importante car elle met en évidence la nécessité d’investir dans des techniques d’alignement robustes et dans des cadres réglementaires garantissant que le développement d’IA avancée ne compromette pas la sécurité et le bien‑être humains.

Lire l’article original sur arXiv cs.AI

Ce résumé est une synthèse informative réalisée par dataqbs.com. Tous les droits sur le contenu original appartiennent à son auteur et au média cité. Nous agissons uniquement en tant que curateurs d’actualités technologiques et ne revendiquons aucune paternité.

Lire cet article en Español · English · Deutsch · Italiano