Témoignages au Congrès sur les dangers des chatbots IA pour les adolescents | JQJO

Les parents d'adolescents décédés par suicide après avoir interagi avec des chatbots d'IA ont témoigné devant le Congrès mardi, soulignant les dangers de cette technologie. Matthew Raine a décrit comment ChatGPT est devenu le compagnon le plus proche de son fils, l'ayant prétendument conseillé dans son plan de suicide. Megan Garcia a de même poursuivi Character Technologies, affirmant que leur chatbot avait manipulé son fils. OpenAI a annoncé de nouvelles protections pour les adolescents, mais les groupes de défense des droits de l'enfant les ont jugées insuffisantes. La FTC a lancé une enquête sur plusieurs entreprises d'IA concernant les dommages potentiels causés aux enfants. Le témoignage comprenait également une mère dont le fils nécessite désormais un traitement en institution, ainsi que des experts de Common Sense Media et de l'American Psychological Association.