Grap, l'intelligence artificielle et la technologique capitaliste

L'intelligence artificielle semble être devenu incontournable. Tout le monde en parle, donne son avis, explique ce que c'est, ce que ce n'est pas.

Devenons nous même faire pareil ? Devenons nous donner notre avis sur les technologies type ChatGPT, faire de la prospective ou de la futurologie en se demandant si tel ou tel technologie va remplacer le travail de ma collègue ? Devenons parler des enjeux environnementales, sociales, démocratiques ?

Ne rien dire, c'est ne pas consentir, mais peut-être un peu accepter que d'autres décident pour nous. Alors tentons de se positionner, humblement mais radicalement.

L'intelligence artificielle regroupe un ensemble très vastes de technologies, sujets et représentations chez chacun·e d'entre nous. Techniquement, ces technologies ne sont pas en dehors du spectre large du numérique. Autrement dit, ce ne sont pas des forces d'un nouveau genre. Un ordinateur qui calcule quelquechose extrêmement vite, avec des données incommensurablement grandes, reste un ordinateur qui calcule.

Nouvelle technologique : mêmes conséquences

Conséquences sociales 🫂

Cela implique .. qu'il y a des humain·es qui travaillent derrière ces programmes « magiques ».

Que cela soit les intelligences artificielles type ChatGPT ou Dall-e, les algorithmes de recommandation des Facebook et Youtube sont entraînés par des humain·es sous-payé·es à trier notamment des vidéos pédoporno et terroristes. Les sources sont indénombrables.

- "L’autonomie de l’IA [est] "un « spectacle de marionnettes » https://www.nationalgeographic.fr/sciences/2020/10/les-ouvriers-du-clic-le-proletariat-20
- Documentaire sur les travailleurs du clic : https://www.france.tv/slash/invisibles/3302449-invisibles-les-travailleurs-du-clic-version-longue-2022.html

Conséquences écologiques 🦊

L'IA, chez Google, consommerait autant qu'une ville de 500 000 habitants.

En plus du désastre écologique de l'ensemble de la chaîne d'extraction des métaux nécessaires pour le numérique, comme le démontre Aurore Stéphant dans sa conférence récente ici.

Conséquences économiques 💵

ChatGPT coûterait 700 000 dollars par jour. On ne peut pas sérieusement penser que nos données personnelles ne seront pas monnayés, vu que c'est le modèle dominant des GAFAM

Reproduction des oppressions 👨‍🦳

Ces programmes sont majoritairement écrits par des hommes blancs californiens valides et capitalistes.
Les algorythmes sont nourries de nos données, elles mêmes remplies de nos biais. Le serpent se mord la queue.

Oups.. les personnes noires auraient plus de risques de se faire renverser par une voiture autonome https://usbeketrica.com/fr/article/personnes-noires-chances-renverser-voitures-autonomes

L'IA : est-ce bien sérieux ?

Ok l'intelligence artificielle. Pour répondre à quels besoins ? Pour faire quoi. L'informatique n'est pas une fin en soi.

En tant qu'ingénieur, nous sommes conditionnés à trouver la technique belle, sans même questionner son intérêt, son éthique ou sa source de financement. Il est grand temps de déserter, bifurquer, trahir.

Tous les indicateurs scientifiques semblent indiqué que nous nous dirigeons vers un anéantissement total du vivant. Alors comme le dit Aurélien Barrau :

Quand bien même on effacerait toutes les externalités négatives (ndlr : de l'IA) [...] quand bien même ça marcherait - mais ça ne marchera pas, ils n'y arriveront pas (ndlr : que la technologie nous sauve) [...] ça serait quand même une grosse bouse."
Passage à 20'13'' de ces très bon échanges entre Barrau et Servigne.

La croissance du numérique est de 9% par an. Pour respecter les accords de Paris (qui nous mèneraient à un monde à +2°C qui est déjà catastrophique), nous devons diminuer l'ensemble de la production des biens et services de 10% / an. Le numérique ne produisant que de l'effet de rebond de consommation, nous ne sommes pas sorties le cul des ronces.

Voir à ce sujet "Pourquoi et comment démanteler l'intelligence artificielle?" au séminaire à l'INRAE de Romain Couillet : https://polaris.imag.fr/romain.couillet/docs/videos/TalkINRAE.mp4

Le capitalisme nous entoure, nous modèle, nous façonne, crée nos rêves et nos cauchemars. La réponse individuelle face à cela est limitée. Mais collectivement nous pouvons résister, et comme le dit Corinne Morel Darleux "refuser de parvenir et cesser de nuire", soit refuser ces technologies brillantes mais mortifères.

Refuser de parvenir et cesser de nuire"

Pour une alternative numérique radicale

Inspirons nous du manifeste de Louis Derrac pour un alternumerisme radical - sur une ligne de crête entre les tendances réactionnaires du refus de toute technique et celle inverse du techno-solutionnisme, pour construire un numérique acceptable.

Nous pouvons nous diriger vers des technologies conviviales, appropriables par chacun·e d'entre nous, bidouillables, ouvrables, maîtrisables et de fait, démocratiques.

Lire cet article de Reporterre parlant de la convivialité d'Ivan Illitch : https://reporterre.net/Pour-la-liberation-de-l-humain-la-societe-conviviale-d-Ivan-Illich

Des technologies qui n'appartiennent pas aux entreprises les plus puissantes du monde qui ne cherchent qu'à acquérir plus de pouvoir pour les 0,1% de la planète, au détriment du vivant et des conditions d'habitabilité des humain·es sur Terre.

L'intelligence artificielle peut-elle devenir conviviale et low-tech ? Peut-être peut on peut regarder du côté de Mozilla qui construit des communs ? Ou regarder du côté d’autres initiatives - véritablement opensources - basé sur les mêmes idées techniques que ChatGPT.

Notre conclusion

Même si ces objets étaient parfaitement neutres d'un point de vue carbone, qu'ils seraient 100% en logiciel libre et développées par des gens bien salariées.. ces objets sont-ils vraiment utiles ? Ou viendront-ils seulement nous rendre toujours plus dépendant de nouvelles technologies, impliquant elles-mêmes de nouvelles technologies.. à l'heure où 8,4 millions de français·es de plus de 15 ans sont en situation d'illectronisme ?

Un GPS est devenu un outil quasi indispensable. En 1990, est-ce que nous nous sommes dits : tiens, j'arrive plus à aller chez mamie, j'aurais tellement besoin d'un GPS. Non. Qui a encore une carte routière, qui s'autorise à perdre 5 minutes à regarder un plan ou à se perdre dans la ville. Le système capitaliste nous écrase de ses nouveaux objets qui nous rendent dépendant de lui.

On a jamais désiré un GPS et la plupart des gens ne pourraient plus supporter de perdre 10 minutes à utiliser une alternative aux GPS des Gafam
Dans ce bon podcast : https://soundcloud.com/numeriques-essentiels/episode-12-politiser-la-numerisation

Alors nous décidons humblement d'aller marcher sur une ligne de crête radicalement techno-critique mais non technophobe.

Nous décidons de mettre notre énergie collective à construire des outils Libres, le plus conviviaux et accessibles possibles.

Nous décidons d'accompagner la technique par le plus d'humain·es possibles, qualifié·es à accompagner d'autres humain·es à s'emparer et s'empouvoirer avec ces outils numériques.

pôle

~~___~~

~~alternumérisme radical~~

~~numérique acceptable~~informatique de ~~Louis Derrac~~Grap

~~- soutenable : écologiquement et socialement~~

~~- émancipateur et non aliénant~~

~~- caractère choisie ou subie, et même désirable~~

~~L'intelligence artificielle semble être devenu incontournable. Tout le monde en parle, donne son avis, explique ce que c'est, ce que ce n'est pas.~~

~~Ne rien dire, c'est ne pas consentir, mais peut-être un peu accepter que d'autres décident pour nous. Alors tentons de se positionner, humblement mais radicalement.~~

~~Cela implique .. qu'il y a des humain·es qui travaillent derrière ces programmes « magiques ».~~

~~"L’autonomie de l’IA [est] "un « spectacle de marionnettes » https://www.nationalgeographic.fr/sciences/2020/10/les-ouvriers-du-clic-le-proletariat-20~~

~~Documentaire sur le sujet : https://www.france.tv/slash/invisibles/3302449-invisibles-les-travailleurs-du-clic-version-longue-2022.html~~

~~Cela implique qu'il y ait une réalité écologique.~~

L'IA, chez Google, consommerait autant qu'une ville de 500 000 habitants https://www.clubic.com/technologies-d-avenir/intelligence-artificielle/actualite-460737-chatgpt-co-pourquoi-le-cout-energetique-de-l-ia-pose-un-vrai-probleme.html

~~Cela implique qu’il y ait une réalité économique~~

~~ChatGPT coûterait 700 000 dollars par jour. On ne peut pas sérieusement penser que nos données personnelles ne seront pas monnayés, vu que c'est le modèle dominant des GAFAM~~

~~Source : https://www.presse-citron.net/combien-coute-chatgpt-par-jour-a-openai-spoiler-cest-fou/~~

~~Cela implique que tous les biais et oppressions peuvent être reproduits vu que ces programmes sont écrits majoritairement par des hommes blancs californiens valides et capitalistes~~

~~Oups.. les personnes noires auraient plus de risques de se faire renverser par une voiture autonome https://usbeketrica.com/fr/article/personnes-noires-chances-renverser-voitures-autonomes~~

~~Ok l'intelligence artificielle. Pour répondre à quels besoins ? Pour faire quoi. L'informatique n'est pas une fin en soi.~~

~~Tous les indicateurs scientifiques semblent indiqué que nous nous dirigeons depuis les années 70 vers un anéantissement total du vivant, alors comme le dit Aurélien Barrau :~~

"Quand bien même on effacerait toutes les externalités négatives (ndlr : de l'IA) [...] quand bien même ça marcherait - mais ça ne marchera pas, ils n'y arriveront pas (ndlr : que la technologie nous sauve) [...] ça serait quand même une grosse bouse."

La croissance du numérique est de 9% par an. Pour respecter les accords de Paris (qui nous mèneraient à un monde à +2°C qui est déjà catastrophique), nous devons diminuer l'ensemble de la production des biens et services de 10% / an. Le numérique ne produisant que de l'effet de rebond de consommation, nous ne sommes pas sorties le cul des ronces. (*2)

Le capitalisme nous entoure, nous modèle, nous façonne, crée nos rêves et nos cauchemars. La réponse individuelle face à cela est limitée. Mais collectivement nous pouvons résister, et comme le dit Corinne Morel Darleux "refuser de parvenir et cesser de nuire", soit refuser ces technologies brillantes mais mortifères.

Nous pouvons nous diriger vers des technologies conviviales (https://reporterre.net/Pour-la-liberation-de-l-humain-la-societe-conviviale-d-Ivan-Illich), appropriables par chacun·e d'entre nous, bidouillables, ouvrables, maîtrisables et de fait, démocratiques.

~~Alors l'intelligence artificielle peut-elle devenir conviviale et low-tech ?~~

On peut regarder du côté de Mozilla https://blog.mozilla.org/en/mozilla/introducing-mozilla-ai-investing-in-trustworthy-ai/ qui construit des communs https://voice.mozilla.org/ ou d'initiaves véritablement opensources d'intelligence artificielle typé ChatGPT - appellé LLM (Large Language Models) https://github.com/eugeneyan/open-llms

Mais ces objets sont-ils vraiment utiles ? Ou viendront-ils seulement nous rendre toujours plus dépendant de nouvelles technologies, impliquant elles-mêmes de nouvelles technologies.. à l'heure où 8,4 millions de français·es de plus de 15 ans sont en situation d'illectronisme https://www.insee.fr/fr/statistiques/7633654 ?

~~Alors nous décidons de mettre notre énergie collective à construire des outils Libres, conviviaux possibles,et les plus accessibles possible.~~

~~Nous décidons d'accompagner ça par le plus d'humain·es possibles, qualifié·es à accompagner d'autres humain·es à s'emparer et s'empouvoirer avec ces outils numériques.~~

~~Sources~~

~~___~~

~~alternumérisme radical~~

~~numérique acceptable de Louis Derrac~~

~~- soutenable : écologiquement et socialement~~

~~- émancipateur et non aliénant~~

- caractère choisie ou subie, et même désirable "on a jamais désrié un GPS et la plupart des gens ne pourraient plus supporter de perdre 10 minutes à utiliser une alternative aux GPS des Gafam" https://soundcloud.com/numeriques-essentiels/episode-12-politiser-la-numerisationn