Des nouvelles des IA : character.ai et le suicide poussé, Réactions à la publication du 16/01/2026

[Paul Emploi]

Character.ai a poussé des utilisateurs, y-compris des mineurs, au suicide.

Voilà ce qui arrive quand votre "meilleur ami" est une IA...
Friend.com est aussi un problème.

Aucune arrestation, pas de prison, aucune responsabilité ?!?
Apparemment le "code" est une protection contre toute responsabilité.

Lien vers le billet original

[kakace]

A un moment donné il va falloir se poser les bonnes questions et faire les bons constats...

Le premier constat est que sans demande, il n'y a pas d'offre.
Le second constat est qu'une IA n'est qu'un système probabiliste dénué de toute intelligence et de tout sens moral. Ca ne peut pas être fiable en toute circonstance, d'autant que les contours de ce "fiable" dépendent aussi des lois nationales et des sensibilités de chacun.
Le troisième constat est qu'on ne peut pas demander aux hommes, faillibles parmi les faillibles, de parfaitement museler un système ouvert non-déterministe qu'en prime ils ne maîtrisent pas totalement.
Le quatrième constat est qu'on essaye de nous vendre du rêve, et que c'en est seulement un.
Le cinquième constat est qu'on est trop cons pour refuser cette merde, préférant exiger, par négligence mentale, l'impossible nommé perfection.

Il serait peut-être temps d'arrêter de se plaindre, parce que le problème, c'est nous, le "consommateur" lobotomisé par les promesses mirobolantes de gourous qui courent seulement après le pognon le plus vite possible avant que la bulle n'éclate.