IA / AI, bien ou pas bien ?

Castoramoi Messages postés 250 Date d'inscription dimanche 22 septembre 2024 Statut Membre Dernière intervention 22 février 2025 - Modifié le 12 oct. 2024 à 07:40
brupala Messages postés 111064 Date d'inscription lundi 16 juillet 2001 Statut Non membre Dernière intervention 23 février 2025 - 22 févr. 2025 à 20:55

Bonjour,

L'Intelligence Artificielle est en train de s'installer partout dans nos vies, mais est ce un bien ?

Déjà, dans Intelligence Artificielle il y a "artificielle" donc pas "naturelle"...

Probablement que l'IA va révolutionner nos vies, dans certains domaines, mais dans d'autres elle pourrait nuire...

L'homme, on le sait, a toujours cherché à détourner, utiliser, la technologie à des fins néfastes pour lui et il y a fort à parier qu'IL est déjà en train de chercher comment l'IA pourrait être utile militairement...l'IA pourra-t-elle nous aider a détruire, tuer, plus ?

Peut être également, que dans quelques années, l'IA aura remplacé les médecins ? Le patient se retrouvera devant un écran à parler avec un "robot", un être virtuel, vide mais doté de l'IA...

C'est toujours après qu'on constate qu'on a fait des erreurs...

;o)


7 réponses

Salut,

est ce que l'IA est un bien? ou un mal?

Non c'est un outil. Comme tout les outils cela dépends de la manière donc on s'en sert. Pour comprendre l'IA il faut d'abord comprendre que cela n'a rien à voir avec l'intelligence, humaine en tout cas. Un programme informatique(comme l'est un IA) est toujours à des lieues en dessous de "l'intelligence" d'une sauterelle donc les délires à la Terminator/Skynet restent de la science fiction pas vraiment crédible(pour l'instant du moins).

Par intelligence dans AI/IA il s'agit ici plutôt de connaissances et c'est la force/utilité qui a toujours été de l'informatique qui est utile: traiter des données plus rapidement et "efficacement" que ne peut le faire l'humain. Pour donner une illustration simple et pas vraiment précis imaginez que vous additionnez 2 nombres à 20 chiffres, une calculatrice donne un résultat en quelques millièmes de secondes tandis que si l'humain doit le faire de tête ou avec un stylo et une feuille de papier cela lui demande un peu plus de temps. C'est à peu près ce que va faire l'IA sauf qu'au lieu de chiffres il peut faire des opérations demandant énormément de paramètres(définit par des algorithmes càd. des modèles/statistiques simulant la pensée humaine).

Quand à vos exemples d'applications militaires et médicales ils existent déjà.

Imaginez un système de tir d'artillerie(encore à titre d'exemple pas vraiment précis ni représentatif du réel), plutôt que de faire calculer à un humain toutes les variables statistiques d'un tir un programme informatique va le faire à sa place. Cela pose évidemment des questions si c'est un drone autonome qui va décider si oui ou non il doit tirer sur une cible(en prenant en compte si elle est militaire ou civile il tirera ou pas). Ce qui nous emmène à un des inconvénients/problème essentiel des IA, la possibilité d'erreur.

Quand en médecine l'IA est déjà utilisée de nombreuses façons. Cela peut être par exemple pour comparer des modèles de diagnostic. Où un médecin même expérimenté a un nombre de diagnostics possible en tête une IA aura des modèles de comparaisons beaucoup plus nombreux et possibilité donc de détecter de façon plus fine/précise un problème ou son absence. Bien sûr la création des modèles(les fameux algorithmes) se basent sur la connaissance et expérience humaine.

Même chose pour la chirurgie à des échelles où l’œil humain ne peut voir et à fortiori la main humaine ne peut agir facilement: Une IA permet d'accéder à une précision accrue, si je me trompe pas toujours guidée par la "main" humaine à travers un programme informatique. Cela revient à pouvoir faire des opérations qui sont donc impossible sans et donc aider l'humain à soigner mieux et plus où les limites de nos perceptions/sens et précisions peuvent être dépassées par des modèles traités par des calculs informatiques.

Quant aux robots, être virtuels "vide" mais doté de l'IA un contre exemple à ce que vous dites existe. Imaginez des soignants surchargés et en nombre insuffisants. Et des patients demandeurs de soins. Un robot n'est certes p)as un médecin ou un infirmier et encore moins un humain mais il peut avoir des tâches simples comme la conversation ou le conseil et soulager ainsi le travail des humains débordés. L'un n'excluant pas l'autre mais offrant une nouvelle possibilité ou le savoir faire humain peut être pallié en cas d'absence de personnel ou pour des tâches plus complexes ou précises. Il me semble que ça a montré une certaine efficacité(à vérifier) dans des pathologies comme la maladie d'Alzheimer ou les aidants(souvent des proches) ont une tâche éprouvante et la patience d'un programme informatique est illimitée contrairement à l'humain. Bien sûr il ne s'agit pas de remplacer l'humain dans ses rapports sociaux mais cela offre une alternative pour résoudre des difficultés, améliorer la sécurité et les possibilités de surveillance. Ce dernier point ouvre un nouveau problème et comme vous l'indiquez pour des applications militaires rendre le monde pire. Les systèmes de détections par caméra basées sur IA existent et ont été mis en place(notamment durant les derniers JO). Et ce n'est ici pas vraiment un problème de l'outil mais de l'utilisation qui en est faite et plutôt la question de la sécurité contre la liberté, une question sociétale et non vraiment associée à une quelconque technologie.

Les inconvénients et problèmes de l'IA pour moi:

Les possibilités d'erreurs: Aucune modèle n'étant parfaits et l'IA étant à son (relatif)balbutiement l'acquisition de connaissance et résultats par IA peuvent être faux et considérés comme vrais. Ainsi de la désinformation peut être propagée par une IA et en fait le cas s'est produit.

L'apprentissage: Même avec une IA qui donnerait des résultat 100% correct la valeur de l'acquisition de la connaissance peut-être perdue. Je veut dire qu'apprendre à chercher par soi même est formateur et indispensable à la formation de la connaissance humaine. Ce qui fait la valeur d'un enseignement n'est pas que retenir des informations comme le fait une base de données mais de savoir chercher et trouver par soi même. Hors la facilité d'avoir un résultat, un texte bien rédigé, une présentation d'un sujet bien faite fournis par une IA n'est pas formateur pour l'esprit autant que le sera le processus complexe de devoir chercher/ramer/faire par soi même = apprendre à apprendre/rédiger/etc...Le risque hypothétique est donc sur le long terme de privilégier un résultat même valable à l’apprentissage forcément long et difficile du comment faire.

La standardisation et perte de créativité:

Comme expliqué plus haut une IA n'est pas une intelligence et n'a aucune imagination ou créativité. Elle se base sur des modèles et archétypes qui bien que complexes et se complexifiant toujours plus ne proposeront rien de nouveau. Au contraire c'est les bases existantes qui seront renforcées. Par exemple une IA est capable d'écrire un texte littéraire(donc artistique) en se basant sur grosso modo la moyenne des informations qu'elle a des textes littéraires que le programme utilise comme base. Bien que correct, même inspiré cela manque de l'apport humain qui peut sortir des clous/normes existantes nécessaires à l'art pour faire quelque chose de nouveau. L'IA est donc dans la création (artistique ou autre) limité à faire en s'inspirant de ce qui existe. Comme nous humains certes mais l'humain peut innover en sortant des clous pour proposer autre chose. Donc art et culture seraient figés dans un monde où l'IA serait l'unique pourvoyeur de création. Ce qui bien sûr n'est pas le cas et dans tous les domaines un créatif original humain ayant des compétences fait presque toujours mieux qu'une 'machine' imitant ce qui existe déjà. Cela peut le devenir si nous vivions dans une société globalisée ou l'imagination et l'originalité, la différence des modèles établis sont refusés(le conservatisme culturel). encore une fois le problème est sociétal et pas propre à l'outil.

Plus concrètement il existe différentes applications de l'IA et vos données sont la matière utilisées. être renseigné et informé de la sécurité des données et de la vie privée est une première étape pour en éviter ses dérives. Dérives dues à un système mercantile(quand c'est gratuit c'est vous le produit) digne des régimes de surveillance les plus totalitaires où plus besoin d'espion puisque c'est nous qui fournissons les informations, qui serviront dans le meilleur des cas à vous proposer des articles selon vos goûts estimés et à hausser les tarifs selon vos nécessités et particularités prises en compte etc... et dans le pire des cas je vous laisse imaginer.

Un paquet d'IA sont accessibles gratuitement et facilement. Le mieux serait d'essayer par vous même pour vous faire une meilleure opinion du sujet? Je parle des moteurs conversationnels ou générateurs d'images par exemple.

1
brupala Messages postés 111064 Date d'inscription lundi 16 juillet 2001 Statut Non membre Dernière intervention 23 février 2025 13 939
Modifié le 22 févr. 2025 à 20:58

Salut,

IA,AI, ça ressemble au cri de l'âne qui fait mal.

Tout le monde fait sa cuisine dans son coin avec ces deux lettres qui du coup ne veulent plus rien dire, tellement il y a d'usages différents et contradictoires, les journaleux et les politiques nous balancent ça dans les oreilles (les yeux ici) à longueur longueur de temps juste parce que c'est LE sujet à la mode auquel personne ne comprend rien, surtout qu'il y a tout un univers entre les utilisateurs, les pourvoyeurs de datas et les développeurs, j'ajouterai les investisseurs, des gens qui parlent avec les deux mêmes lettres mais pour dire des choses très différentes, c'est ahurissant:

Les investisseurs y voient un produit facile à vendre qui peut faire beaucoup de clientèle captive, mais qui demande un tel niveau d'investissement, pour peu de marge en réalité, tellement on se dirige vers une concurrence effrénée, openai, pourtant quasi seul sur le marché jusqu'ici est encore loin d'espérer des bénéfices, on risque vraiment la bulle boursière.

Les pourvoyeurs de datas nous montrent un tiers monde d'esclaves modernes de ce système, voir le film "les sacrifiés de l'ia "

les développeurs, qui seront un jours les futurs sacrifiés, car la lutte sera féroce dans cette jungle élitiste pour être à la pointe.

Les utilisateurs qui sont en deux catégories, ceux qui l'utilisent pour se défendre sinon ils n'ont pas le choix pour garder leur activité et ceux qui l'utilisent pour aller plus vite que la concurrence, mais en se mettant eux mêmes en danger.

Bref un monde très darwinien vous est promis, perso, j'en suis au dehors, à moins que ça ne tourne mal très vite et que le beau château de cartes s'effondre d'ici 2 ans.

De toute façon la limite de la connaissance sera vite atteinte: la connaissance des machines ne peut dépasser celle de l'homme, sauf à s'alimenter avec ce qu'elle produit d'artificiel elle même, en amplifiant les biais à chaque boucle, forcément ça va vite partir de travers si nous ne pouvons plus corriger le résultat avant qu'il ne  soit recyclé.


1
georges97 Messages postés 13137 Date d'inscription lundi 31 janvier 2011 Statut Contributeur Dernière intervention 23 février 2025 2 496
12 oct. 2024 à 09:13
0
Castoramoi Messages postés 250 Date d'inscription dimanche 22 septembre 2024 Statut Membre Dernière intervention 22 février 2025 10
Modifié le 22 févr. 2025 à 12:53

Salut

J'ai essayé par moi même, la version IA "pour tout le monde" et je ne suis pas convaincu...

Je pense que les militaires ou les scientifiques, eux, ont accés à une version "non bridée". Nous nous avons la version "bisounours".

L'IA a été créée par l'homme, lequel lui a inculqué des "valeurs", ses valeurs.

ON lui a inculqué ce qui est bien et ce qui est mal, d'après ce que ON pense du bien et du mal. De ce fait, l'IA ne sera jamais parfaite, intègre.

Si vous "lui" posez des questions dérangeantes, vous aurez des réponses formatées car l'IA ne peut pas avoir un avis, sur certain sujets, autre que celui qu'on lui a inculqué !

Je ne sais pas si vous me suivez ?

Vous, vous ne pourrez pas utiliser l'IA dans un but néfaste, alors que l'armée le pourra.Quoique, certains arrivent à déshabiller des gens grâce à l'IA, à créer des fakes...

Ce que j'essaye de dire, d'expliquer, c'est qu'on pourrais utiliser l'IA pour nous influencer, nous inculquer de fausses valeurs...

Imaginez un instant comment un dictateur, comme Hitler, pourrez utiliser l'IA pour conditionner son peuple !?

On nous dit, que dans certains pays, les gens sont endoctrinés, comme en Corée su Nord ou en Chine (Russie?), alors essayez d'imaginer comment l'IA sera/serait utilisée dans ces régimes !?

Il est déjà facile d'endoctriner les gens "faibles", l'IA sera un plus.

Plus tard, peut être que sera l'IA qui va éduquer nos enfants.L'IA pourra leur inculquer la "pensée unique"...

On a des exemples dans le passé, l'URSS, la Chine et aujourd'hui la Corée du Nord, voire la Russie. La télé russe déverse des tas de conneries à ses auditeurs et personne ne réagit. Certes certains ont .peur, mais d'autres sont persuadés que la Russie est agressée par l'Occident

Bref il faudra être vigilant, intelligent et ne pas se laisser influencer par l'IA !

Déjà avec internet, certains pensent que tout est vrai sur le net ! "C'est pas des conneries, je l'ai lu sur le net."

Wait and see .....


0
brucine Messages postés 19217 Date d'inscription lundi 22 février 2021 Statut Membre Dernière intervention 23 février 2025 2 911
22 févr. 2025 à 13:56

Bonjour,

Il est évident que l'IA à destination des professionnels est alimentée par des données qui le sont aussi, ce n'est pas pour cela qu'en dehors des biais propres à tout algorithme ou des censures de certaines à disposition des particuliers il y aurait un "endoctrinement" , un "complot" ou qu'elle aurait des "valeurs morales" ou le contraire.

C'est beaucoup plus prosaïque et la même chose que sur un moteur de recherche, ce forum en est régulièrement le reflet: les experts des IA professionnels posent les questions appropriées là où le plus souvent le particulier pose une question bête, la réponse l'est de même.

Je ne pense pas que les pays (ex)communistes aient le monopole du mensonge, la nouvelle administration américaine en particulier et les réseaux sociaux en général y ont une grande compétence.

Les tirades sur les militaires font aussi partie de ce monde fantasmé; dans un état démocratique, ils ne font pas que tuer des gens mais servent aussi à le défendre y compris par des moyens de cyberdéfense et on oublie volontiers leurs missions au service de la population (parmi les plus évidentes le sauvetage en mer, le PGHM, un certain nombre des services de la sécurité civile, les pompiers de Paris et de Marseille...).
 

1

Vous n’avez pas trouvé la réponse que vous recherchez ?

Posez votre question
Castoramoi Messages postés 250 Date d'inscription dimanche 22 septembre 2024 Statut Membre Dernière intervention 22 février 2025 10
Modifié le 22 févr. 2025 à 14:01

Salut

Tu dis "Je ne pense pas que les pays (ex)communistes aient le monopole du mensonge, la nouvelle administration américaine en particulier et les réseaux sociaux en général y ont une grande compétence."

Donc tu conviens que pour des régimes, quel qu'ils  soient, l'IA pourrait servir pour la propagande, le bourrage de crâne, etc...


0
brucine Messages postés 19217 Date d'inscription lundi 22 février 2021 Statut Membre Dernière intervention 23 février 2025 2 911
22 févr. 2025 à 14:25

à propos de bourrage de crâne, je veux bien croire que dans le futur l'IA aura une utilité pour les particuliers, mais elle n'est aujourd'hui que le mercantilisme de quelque chose qu'on semble découvrir (par exemple cela fait un moment qu'un ordinateur a battu Kasparov aux échecs ou que des logiciels des forces de l'ordre sont destinés à détecter les "criminels en série").

L'IA n'a ni plus ni moins de responsabilité à bourrer le crâne de gens qui se montrent aussi bêtes que des oies sinon qu'on ne demande pas à ces dernières si elles veulent bien être gavées que les réseaux sociaux ou un certain nombre de médias.

Le problème de base dans tous les cas est cette sorte de dogme de l'immédiat dans le monde d'aujourd'hui et où tout devrait être disponible sous la main sans qu'on y réfléchisse, restant à savoir dans quelle proportion il s'agit de crédulité ou de fainéantise.

0
brucine Messages postés 19217 Date d'inscription lundi 22 février 2021 Statut Membre Dernière intervention 23 février 2025 2 911 > brucine Messages postés 19217 Date d'inscription lundi 22 février 2021 Statut Membre Dernière intervention 23 février 2025
22 févr. 2025 à 14:34

Je trouve effrayant que le président de la république (il n'est pas le seul) se soit à nouveau adressé "aux jeunes" sur les réseaux sociaux, le motif officiel en étant qu'ils votent (la question n'est pas de savoir pour qui) mais n'auraient pas d'autre source "d'information".

Exprimé autrement, nous avons des citoyens qui votent sans jamais avoir essayé de chercher des sources d'information sinon objectives, au moins contradictoires et argumentées.

0
Castoramoi Messages postés 250 Date d'inscription dimanche 22 septembre 2024 Statut Membre Dernière intervention 22 février 2025 10
Modifié le 22 févr. 2025 à 16:01

Je pense que si on laisse faire, on aura de l'IA partout...

Pour les toubibs, on a déjà la consultation par vidéo, bientôt tu auras un toubib virtuel qui va te consulter.

Par économie, on va mettre des profs virtuels dans les classes, ou mieux, il n'y aura plus de classes, les enfants étudieront depuis leur canapé! Encore des économies !

Après le télé travail tu auras, le télé enseignement, etc...


0
.eric Messages postés 214 Date d'inscription samedi 16 novembre 2013 Statut Membre Dernière intervention 22 février 2025 16
Modifié le 22 févr. 2025 à 17:12

Bonjour

Je pense que les militaires ou les scientifiques, eux, ont accés à une version "non bridée". Nous nous avons la version "bisounours".

 Ils ont entraîné leur IA peut-être, avec des données bien choisies et un algorithme adapté à l'utilisation prévue aussi.

 Nous sommes en train d’entraîner les IA qui nous sont "proposées", avec des algorithmes dont nous savons le moins de choses possible. Il est peut être adapté à une utilisation prévue?

 Ce n'est pas du complotisme, peut-on regarder les IA mises à disposition comme celles qu'on suppose pour l'instant bien utilisées ou semblent maîtrisées par des corps de métiers? 

 [Ne soyons pas naïfs, il est possible aussi à beaucoup de gens en réalité de faire leurs algorithmes sur des IA non bridées]

0