Les géants de l'IA américains invités à rencontrer leur président, Réactions à la publication du 04/05/2023

[Lionel]

Une révolution se prépare. En toute franchise nous ne l'avons pas vu venir mais ChatGPT a dévoilé ce que l'on pouvait attendre d'un futur où des machines pourraient répondre à la plupart de nos problématiques du quotidien, voire bien plus loin.

Au niveau sociétal nous sommes probablement à l'aube d'une nouvelle révolution que l'on peut comparer à la révolution industrielle de la fin du 19e siècle. Elle avait fondamentalement modifié le marché du travail de l'époque et totalement chamboulé le marché de l'emploi.


On pourrait faire face à une crise majeure de l'emploi du même genre dans les prochaines années. Des pans entiers de professions pourraient disparaître avec il faut l'avouer, à terme, des incroyables inconnues sur non pas l'avenir de l'humanité (quoique... Skynet...) mais celui de notre civilisation.
A y regarder de près, les seuls grands gagnants de ce qui arrive seront sans l'ombre d'un doute les sociétés qui détiendront ces IA, et le droit de choisir qui y aura accès et à quel prix.

C'est dans ce contexte d'incertitude que la Maison Blanche américaine a décidé de convoquer les dirigeants des sociétés Alphabet, Microsoft, OpenAI, et Anthropic. Le but est de discuter avec eux de l'avenir de ces IA, du danger qu'elles pourraient représenter et surtout fixer des limites claires.

L'intention est louable même si certains y verront une volonté de la vieille garde de bloquer les avancées technologiques.


Hélas, c'est certainement peine perdue car tous les pays du monde vont maintenant travailler à leurs IA et les Etats-Unis, comme toujours, finiront par laisser le champ libre à leurs géants pour éviter que d'autres, à commencer la Chine, ne les surpassent.

Pour terminer, cette invitation montre une autre chose presque plus importante, tout du moins pour nous. Apple n'est pas conviée. Certes la société est pleine de secrets mais elle semble avoir totalement manqué le coche dans le domaine de l'IA. On pourrait dire que son argent lui permettrait de racheter à peu près n'importe quelle société mais pour le moment, Apple n'existe simplement pas dans ce qui semble être la nouvelle révolution technologique.

Lien vers le billet original

[twist67]

Si au lieu d'appeler ça "Intelligence" artificielle on avait appelé ça "calcul de gradient sur des champs de tenseurs" on aurait affolé beaucoup moins de monde.

[iAPX]

Si au lieu d'appeler ça "Intelligence" artificielle on avait appelé ça "calcul de gradient sur des champs de tenseurs" on aurait affolé beaucoup moins de monde.

Effectivement, mais les conséquences pourraient être les mêmes, non?!?

Un point essentiel sont que ces générations d'IA ne sont pour l'instant qu'entrainées sur des champs de connaissances, d'opinions et d'échanges humains.
Elles ne formulent pas de réflexion en tant que telles, n'ont pas d'opinions autres que celles avec lesquelles elles ont été entraînées (ainsi que leurs biais), et si leur masse de connaissance est extraordinaire comparée à un être humain générique (moi par exemple), on ne peut guère parler d'intelligence, les "hallucinations" étant nombreuses, et les références souvent invalides.

C'est à la fois limité par notre savoir, mais aussi par la sélection qui en est faite, et le factuel n'existe pas, juste le probable (d'où les hallucinations).
En revanche pour des secteurs particuliers où on peut mesurer objectivement les progrès, ces IA pourraient progresser très au-dessus de nous très rapidement, comme on l'a vu pour les échecs avec des stratégies de renforcement adversariales.

Néanmoins il y a des dangers, directs, comme reporté ici, avec un utilisateur se faisant passer pour une jeune fille de 13ans et l'IA de SnapChat partant en vrille.
D'autres ont reporté des choses très étranges et dangereuse pour la santé et la stabilité mentale lors d'échange avec ces IA.
C'est pour moi le premier danger: influencer négativement les masses, manipuler leurs émotions à très grande échelle, comme Facebook l'avait fait lors d'une expérience au détriment de certains de ses utilisateurs.

Ensuite, il y a les métiers, et au vu de ce qui est produit, des erreurs, des hallucinations, des risques de retrouver du contenu protégé et/ou licencié, et ça en fait un outil extraordinairement intéressant, mais il serait là aussi dangereux de remplacer des professionnels formés par ce type de produits aujourd'hui.
Peut-être des emplois seront-ils perdus, pour ceux où c'est rentable de le faire, mais dans de nombreux cas ça sera un accélérateur augmentant la productivité.

Finalement, il se trouve que les Mac Apple Silicon font parti des meilleures machines pour faire tourner des LLM efficacement et à pas cher (!!!).
La plupart des ordinateurs sont limités à des modèles où tout considéré il ne faut pas dépasser 8Go, 16 Go voire 24 Go pour que ça tourne sur leur GPU, sinon ça doit tourner bien plus lentement sur leurs CPU, alors qu'avec le modèle mémoire unifié nos Mac portables peuvent supporter des modèles jusqu'à 80Go (MBP) voire 100+Go (Mac Studio).
Des modèles plus riches, même si évidemment la taille du modèle n'est pas le seul facteur.

"N'ayez pas peur." - Klaus Schwab

Ce message a été modifié par iAPX - 4 May 2023, 11:32.