Apéro de janvier sur l'IA le 31 janvier

Hello !

On prévoit de poursuivre le débat sur l’IA lors du prochain apéro coopérateur·trice·s le 31 janvier prochain. Nous vous présenterons un projet de manifeste sur la technologie.

Plus d’infos :

https://www.itopie.ch/event/apero-cooperateurs·trices-2401/

a+

Samuel

Hello !

Je poursuis l’échange suite à l’apéro du 31 janvier. Nous étions une bonne dizaine à débattre de ce sujet et en particulier du projet de manifeste sur la technologie. Nous ne sommes encore qu’à la version 0.3… :wink:

Dans le sujet « IA », on m’a pointé sur la fondation ImpactIA, qui, soit-disant, fait la promotion d’une IA éthique.

C’est à creuser. Pour ce que j’ai pu lire, ce n’est pas très convainquant à mon avis. Les valeurs sont exprimées de manière fort peu concrètes avec des termes assez démago, bien positionnés dans l’échelle du bullshit, je trouve. Mais c’est mon avis. Qu’en pensez-vous ?

a+

Trollhebus

Message d’un des participants à l’apéro participatif (par courriel) :

Hello,

Très bien écrit.
C’est surtout le dernier point que je peine à associer à l’utilisation des systèmes experts

• Ils n’entraînent pas de dégradation des relations sociales entre individus et plus globalement de l’empathie avec le vivant.

S’agissant d’un effet secondaire possible du conditionnement que peut provoquer tout type de « communication » active ou passive (appuyée ou non par la technologie) il faudrait pouvoir développer - mais je bloque :slight_smile:

On pourrait peut-être dire « Des gens veillent à ce qu’ (…) et ont pouvoir d’agir en conséquence. »

Ou alors je débloque ?

:stuck_out_tongue:

Salut,

Tu mets sans doute le doigt sur le point le plus délicat du manifeste. Ou probablement le point le moins abouti / expliqué.

Ma constatation, c’est que « les systèmes experts » ont une fâcheuse tendance à ramener de plus en plus la technologie au centre de la société, à multiplier les écrans et les interfaces, à remplacer des activités analogiques qui se suffisent à elles-même par des « alternatives numériques » à faible valeur humaine ajoutée, etc. Et cette profusion d’outils numériques pas réellement nécessaires dans le contexte actuel de pénurie de ressources naturelles augmente nos interactions avec des écrans et réduisent mécaniquement nos interactions avec des humains, avec la nature et plus globalement avec le vivant.

Ce changement progressif de type d’interactions réduit notre capacité à gérer l’altérité humaine, c’est-à-dire l’autre, qui n’est pas forcément d’accord, qui peut nous déplaire, qu’on doit respecter, avec qui on doit collaborer et qui peut aussi nous apporter de l’enrichissement sans que ce soit planifié à l’avance (sérendipité). Les écrans et autres interfaces ont en effet plutôt tendance à vouloir nous plaire, aller dans notre sens, ne pas trop nous fâcher. On peut les insulter sans risquer de les fâcher. Ils nous désapprennent la vie en société d’une part et nous déracinent du monde du vivant d’autre part.

Le temps d’écran mange d’autres activités, comme la lecture, qui devient le parent pauvre des activités de divertissement. Or, la lecture (de romans) permet le développement du cerveau, améliore la mémoire, développe le langage et contribue ainsi une pensée complexe. La perte de la lecture peut avoir des effets néfastes sur le développement des jeunes (et des moins jeunes).

Chez les enfants trop soumis à des écrans, on observe des gros déficits émotionnels, des sautes d’humeurs, et une très mauvaise résistance à la frustration. Nous autres quarantenaires / quinquagénaires avons évolué dans un contexte beaucoup moins numérique quand on était enfant et cela nous a donné une certaine résistance. Mais qu’en est-il des enfants qui sont nourris actuellement aux écrans en tous genres, au profit d’autres types de relations, humaines ou naturelles (balades en forêts, dans la montagne, jeux de société in vivo, séjour à la ferme, nuit à la belle étoile, la responsabilité d’un animal de compagnie…) ? Les pédopsychiatres sont vraisemblablement très préoccupés par cette tendance.

Dans la version précédente du manifeste, je parlais de la réduction de la « convivialité », le numérique outrancier ayant tendance à la supprimer. comment exprimer mieux cette crainte ? Et l’arrivée des casques à réalité augmentée ajoute de la préoccupation. J’ai l’impression que de nombreuses personnes la ressentent. Petite vidéo en lien avec ce sujet :

Bref, si quelqu’un a une idée pour être plus clair, je suis preneur !

a+ et merci pour la remarque.

1 Like

Réponse du participant :

Hello,

Je cherchais pas à te faire développer tout ce qui était dit sur la première page et qui était assez clair (je me sens tout troll du coup) mais j’entendais encadrer le dernier point car l’exigence me semblait irréaliste telle quelle.

On pourrait reformuler le tout plus concisément en déclarant:

Ainsi, itopie soutient le développement de ces systèmes experts, du moment qu’ il est donné à la société civile les moyens de veiller à ce qu’ils n’entraînent pas d’effets indésirables sur les individus la communauté et l’environnement, et le pouvoir d’agir en conséquence.

… et de poursuivre par quelque chose comme:

De notre point de vue ces systèmes sont acceptables pour autant qu’ils remplissent les conditions suivantes:

… puis par les points que tu avais listé:

• Ils respectent les principes de sobriété numérique, en les mettant au défi, entre
besoins réels et enjeux environnementaux (limites planétaires, changements clima-
tiques, perte de la biodiversité, pollutions, raréfaction des ressources naturelles,…).
Cela implique de réduire ses besoins, d’allonger de la durée de vie des objets, de
privilégier la basse technologie ou les solutions analogiques.

(Pas le temps de m’y atteler je ne suis pas dans le train, mais le paragraphe ci-dessus s’éparpille)

• Ils sont libres, au sens des logiciels libres. Le corpus de données utilisées doit être libre
et clairement identifiable.

• Ils ne participent en aucune manière à la surveillance et protègent l’intégrité numé-
rique des personnes impliquées.

• Il ne leur est pas délégué de prise de décision affectant directement les êtres hu-
mains si toutes les parties prenantes n’ont pas donné leur accord, si la logique de prise
de décision n’est pas clairement communiquée et si l’analyse a posteriori de la prise
de décision n’est pas possible.

(ci-dessus même si quelque part tu cherches à dire par là que les autres c’est aussi « nous », on parle de ce qu’« itopie soutient si » et de ce sur quoi on a pas vraiment prise. Je remplacerais donc le « Nous ne leur déléguons pas » par « Il ne leur est pas délégué » (de prise de décision,))

• Ils n’entraînent pas de dégradation des relations sociales entre individus et plus globalement de l’empathie avec le vivant

Timeout !

Hello,

Suite aux remarques de Luc, voici une version 0.4 :

https://www.inubo.ch/s/C5xTFRiZ5iym46X

a+

Trollhebus