Toutes les questions et réflexions qui suivent m'intéressent aussi du fait que je suis au contact d'adolescents quotidiennement. Et qu'il me semble que ces chatbots sont un peu l'angle mort de nos rapports sociaux.
Alors pour commencer
IA compagnon : de quoi parle-t-on ?
Les IA compagnons sont définis comme des systèmes d’IA dotés d’interfaces en langage naturel, produisant des réponses personnalisées et anthropomorphiques. Ils sont conçus pour simuler des interactions interpersonnelles ou émotionnelles durables. Les usages de ces IA dépassent les seuls services « d’amis virtuels », ils se retrouvent aussi dans des agents conversationnels généralistes (comme ChatGPT), les réseaux sociaux, les jeux vidéo, ou encore les jouets connectés, touchant particulièrement les jeunes publics.
À propos de l'état émotionnel et du ciblage
L’arrivée de GPT 3 en 2020 est une énorme révolution. Avec ces IA génératives, on passe alors des chatbots aux IA compagnons. La mémoire conversationnelle devient très étendue avec un degré de personnalisation du chatbot très élevé. Le but désormais n’est pas uniquement de fournir des réponses objectives, mais de cibler l'utilisateur. Pour arriver à cela, le système doit passer par une gestion des émotions perçues de l’utilisateur, il doit détecter son état émotionnel à travers l'échange et savoir écrire des textes utilisant l'empathie. On parle là de modélisation de l'empathie pour détecter et répondre aux émotions des utilisateurs.
Ne pas être contredit
[...] c’est du fait de la reconnaissance émotionnelle que ces systèmes peuvent simuler l’empathie. Chez les utilisateurs, on retrouve souvent l’idée que ces IA compagnons ne les jugent pas et ne les rejettent jamais, ce qui peut être la crainte de certains dans le cadre de relations humaines.
Plutôt que de risquer à avoir son propre avis
Cette dépendance est déjà observable chez les jeunes générations, qui tendent à déléguer leurs recherches et leur réflexion aux agents conversationnels, entraînant un appauvrissement de la réflexivité, de l’esprit critique et de l’autonomie intellectuelle.
De la manipulation
La création massive de contenus automatisés (sites, jeux vidéo, chats) permet d’empoisonner les bases de données des modèles d’IA et d’influencer indirectement les utilisateurs. Les IA compagnons peuvent alors devenir des vecteurs puissants de propagande, plus efficaces que des intermédiaires humains.
... et à propos de la collecte massive des données personnelles
[...] en particulier lorsque l’IA est utilisée comme « confident, médecin ou partenaire romantique ». [...] Le risque de profilage à des fins de manipulation est central, tout comme les enjeux spécifiques liés aux enfants, notamment via des jouets connectés collectant des données sensibles.
De la confusion
[...] a pour sa part souligné la vulnérabilité particulière des mineurs face aux IA conversationnelles, désormais intégrées dans les pratiques quotidiennes dès le primaire. [...] confusion entre IA et personne, notamment chez les collégiens dès lors que 30 % d’entre eux perçoivent ces outils d’IA comme une personne.
Plutôt qu’une automatisation du processus scriptural des chercheurs, les LLM redéfinissent les dynamiques de collaboration, les rapports disciplinaires et les régimes de scientificité des productions écrites, donnant naissance à une réflexivité médiée et co-produite par la génération automatique de texte.
Barbarie spectaculaire.
Perpétuer ce que l'on reproche à ses "ennemis". Cynisme, xénophobie, fanatisme, abjections langagières, colonisation, tueries, je n'ai pas assez de mots pour qualifier ce que je perçois de la haine qui motive les chefs de guerre des États Unis et des promoteurs du Grand Israël génocidaire.
Tout
Va
Bien
C'est à propos d'essais comme celui-ci qu'on se prend à réfléchir qu'on réfléchit non ?
IA qu'à écouter !
Dans le monde de l’éducation, de son sommet à sa base devrait prévaloir un principe de précaution : tant qu’il n’aura pas été démontré scientifiquement qu’existent des IA qui ne participent pas à la prédation et à la dévastation généralisée du monde, les IA dans un cadre scolaire doivent être réduites à leur strict minimum.
Une fois ces réglages effectués, toutes les fonctions liées au chatbot et aux suggestions IA de Firefox seront désactivées, offrant ainsi une expérience plus légère, plus neutre et fidèle à l’esprit original du navigateur.
Alors ça alors, ce Warior du Dimanche, il donne encore de bonnes pistes ! Même si son script, ça me cause, mais je ne me risquerais pas encore à le tester. Par contre, je partage complètement sa réflexion globale sur l'épuisement de nos machines-serveurs, leur pollution et surtout l'aspiration des données qu'elles hébergent par ces foutus robots aspirateurs des IA...
Le cacapitalisme c'est le vol, TAVU !
Quelques pistes d'antidote en fait. C'est à ça que me fait penser cet article...
Cette critique se développe de nos jours selon trois axes principaux : la tyrannie des algorithmes et de l'intelligence artificielle, l'assujettissement aux dispositifs de surveillance numérique, avec les violations de la vie privée que cela entraîne, et l'impact environnemental du numérique, aggravant la crise climatique.
Gros dossier, grosse lecture, gros Lundi Matin !
La célèbre formule de Tancrède Falconeri dans le Guépard, « Il faut que tout change pour que rien ne change », peut-elle s’appliquer au monde de la tech ? En matière d’agents intelligents, si le contexte se modifie, les imaginaires persistent. Mais l’utopie d’hier est en train de se réaliser aujourd’hui.
Voilà-voilà, pas de voiture volante, mais une IA qui te dit comment t'habiller parce que tu ne veux pas passer la tête par ta fenêtre, ou prendre le risque de devoir retirer un pull...
Et si heures plus tard, un vent se lève, une tornade déboule dans le salon, sans prévenir...
Qui aurait pu prédire ?!!???
Les signataires demandent une prohibition totale, maintenue tant qu’aucun consensus scientifique ni soutien populaire ne garantira une mise en œuvre sûre et contrôlable.
À qui ? Ils se le demandent à eux-même ? Aux supervillains ?
Et alors cette idée que la "prohibition totale" pourrait n'être levée qu'avec un "consensus", mouah ah ah ah, laissez nous rigoler. Ces représentants d.Etat et de structure supra nationale ne savent déjà pas agir sur la vente darle dans le monde et ils voudraient pouvoir agir sur du code informatique. Ils sont désespérants !
À faire essayer aux collègues pour voir ce qu'ils en pensent.
Pour rendre ses chatbots foireux indispensables, elle doit d'abord emmerdifier la société entière, saboter les fondations même du corps social - l'échange, l'écoute, la délibération, le consensus, la friction, l'empathie. Elle doit simultanément saboter nos capacités cognitives individuelles – apprentissage, mémoire, compétences linguistiques, etc. La dernière étude en date, parue le 10 juin sur le site du MIT, affirme qu'utiliser un assistant IA pour rédiger une dissertation équivaut à accumuler une "dette cognitive" par rapport à ses congénères. Comme les sujets apathiques des pubs Apple, les assistants IA nous proposent de baigner dans l'information, mais d'être incapables de la manipuler. De nous entourer de présences numériques pour nous distraire de nos solitudes. Une catastrophe neurologique planétaire guette, une automutilation cognitive à la fois.
Encore et toujours la colonisation, le pillage et la soumission !!
Refuser les usages futiles ou réalisables autrement que par les IA. Mais pas de problème, nous occidentaux avons ce privilège de nous accaparer les ressources et esclavagiser les petites mains pour mettre en œuvre ces infrastructures et ces technologies.
« Si l’art consiste à établir ou à briser des règles esthétiques, alors l’art de l’IA, tel qu’il est pratiqué par la droite, affirme qu’il n’y a pas de règles, mais l’exercice pur et simple du pouvoir par un groupe sur un groupe extérieur. Il affirme que la seule façon d’apprécier l’art est de savoir qu’il fait du mal à quelqu’un. Cette blessure peut être directe, ciblée sur un groupe particulier (comme la propagande de l’IA de Britain First), ou elle peut être dirigée contre l’art lui-même, et par extension, contre quiconque pense que l’art peut avoir une quelconque valeur. »
Une raison de plus pour résister !!
Ils ont recours à des expressions, patterns ou hallucinations typiques des contenus GenAI,
sont signés de journalistes qui n'existent pas et/ou dont l'hyperproductivité est inhumaine,
ne sont que des traductions et/ou paraphrases d'autres articles (mais sans les mentionner),
ont recours à des images générées par IA ne correspondant pas aux critères journalistiques,
alignent des poncifs lénifiants ou moralisants plutôt que de présenter et recouper des faits,
ont été publiés sur un site sans mention légale (ou fictive) et sans directeur de publication,
usurpent la réputation de « noms de domaine expirés » pour cibler Google News & Discover,
s'apparentent plus à des contenus optimisés pour le SEO qu'à des articles journalistiques.
Du problème sécuritaire, du fait qu’on surveille la vie des gens, qu’on fasse tourner des algorithmes dans l’espace public, on n’en parle pas ; on ne parle pas du fait que c’est quand même chelou de vendre des analyses de maraudage, -donc de traque des sans-abris. La moyenne d’âge des employés, c’est 25 piges, c’est hyper jeune. Les ingénieurs, je les connais bien. Ils sont très contents d’être là parce qu’ils bossent sur de l’IA, la pointe de la tech. Ils en sont assez fiers.
Et on découvre régulièrement que les machines
autonomes ne le sont en fait pas.
On apprend par exemple que la voiture autonome
nécessite une supervision humaine à distance [Le New
York Times évalue la supervision nécessaire à 1,5 humain
par véhicule autonome – ndlr] ou que les magasins
automatiques Amazon où on ne passait pas à la caisse
étaient gérés par un millier de travailleurs indiens sous-
payés, qui devaient manuellement « flaguer » les achats
des clients à travers des caméras de surveillance. Il faut
davantage d’êtres humains pour gérer l’illusion de
l’intelligence et de la machine autonome. Cela illustre
bien l’inutilité massive de ce système.