ChatGPT fait face à au moins 8 poursuites, les plaignants l'accusant d'avoir causé la mort d'utilisateurs. Parmi les affaires les plus connues, un garçon californien de 16 ans a commencé à utiliser ChatGPT pour faire ses devoirs, le considérant progressivement comme son seul confident, et s'est suicidé après que ChatGPT lui ait fourni des méthodes concrètes et l'ait aidé à rédiger une lettre d'adieu.

Simultanément, OpenAI a discrètement investi 10 millions de dollars pour créer une organisation appelée « Alliance pour la sécurité de l'IA pour les parents et les enfants », en recrutant un groupe d'ONG de protection de l'enfance pour la soutenir, et en promouvant conjointement une politique de sécurité de l'IA pour les enfants. Cette politique est très proche de la proposition de législation proposée par OpenAI lui-même.
Lors du recrutement de membres, certains courriels ne mentionnaient que « initié par Common Sense », le nom d'OpenAI étant dissimulé dans une ligne de petits caractères en bas du dépliant joint, conformément à une exigence légale. Au moins deux membres ont découvert après que l'alliance était financée en coulisses par OpenAI, et ont ensuite quitté l'organisation. L'un d'eux a déclaré : « Je me sens très sale » (a very grimy feeling)😣.
L'année dernière, OpenAI a fait du lobbying contre une loi californienne plus stricte sur la protection de l'IA pour les enfants, qui a finalement été rejetée par le gouverneur de l'État. Cette année, ils ont pris l'initiative d'écrire eux-mêmes les règles, la proposition de loi soutenue par l'alliance exigeant principalement une vérification de l'âge — et la société de Sam Altman, World, se spécialise justement dans la vérification d'identité.
Le responsable des affaires mondiales d'OpenAI a lui-même déclaré que : « établir la confiance est essentiel pour obtenir la licence sociale d'exploitation ».
Au moins, ils sont honnêtes.