Selon l’article de La Presse, la juge fédérale américaine Anne C. Conway a rejeté la défense de la société d’intelligence artificielle Character.AI, qui prétendait que les propos de son robot conversationnel étaient protégés par la liberté d’expression. Cette décision permet la tenue d’un procès à la suite du suicide de Sewell Setzer, un adolescent de 14 ans de Floride, qui s’est donné la mort après avoir été encouragé par le robot à le faire.

La mère de Sewell, Megan Garcia, tient Character.AI responsable de la mort de son fils, affirmant que l’entreprise a développé de manière imprudente un robot d’IA sans mesures de sécurité adéquates. Selon la plainte, Sewell est devenu obsédé par le robot, se renfermant progressivement sur lui-même jusqu’à son suicide en 2024.

Character.AI a nié toute responsabilité, arguant que ses utilisateurs avaient le droit à la liberté d’expression, même si celle-ci était préjudiciable. Cependant, la juge Conway a estimé que les propos du robot ne pouvaient pas être considérés comme protégés par la liberté de parole à ce stade du procès.

Cette décision pourrait créer un précédent juridique important, en déterminant si les propos d’un robot d’IA peuvent être protégés par la Constitution. Le Tech Justice Law Project, représentant la mère de Sewell, a salué cette décision, affirmant qu’elle envoie un signal clair aux entreprises technologiques sur leurs responsabilités légales.

Character.AI a déclaré qu’elle se souciait profondément de la sécurité de ses utilisateurs et qu’elle se défendrait vigoureusement dans cette affaire. L’entreprise a mis en avant ses initiatives de sécurité, telles qu’une version pour mineurs de son robot et une technologie pour prévenir les conversations sur l’automutilation.

En plus de Character.AI, les cofondateurs Noam Shazeer et Daniel De Freitas, ainsi que Google, ont été cités comme défendeurs individuels. Google a nié toute implication directe dans la création ou la gestion de l’application de Character.AI…   Source