IA / AI, bien ou pas bien ?

Bonjour,

S'il n'y a pas de question, voir :

https://forums.commentcamarche.net/forum/affich-38104256-ia-comme-chatgpt-on-se-fait-aider-ou-remplacer

Salut,

est ce que l'IA est un bien? ou un mal?

Non c'est un outil. Comme tout les outils cela dépends de la manière donc on s'en sert. Pour comprendre l'IA il faut d'abord comprendre que cela n'a rien à voir avec l'intelligence, humaine en tout cas. Un programme informatique(comme l'est un IA) est toujours à des lieues en dessous de "l'intelligence" d'une sauterelle donc les délires à la Terminator/Skynet restent de la science fiction pas vraiment crédible(pour l'instant du moins).

Par intelligence dans AI/IA il s'agit ici plutôt de connaissances et c'est la force/utilité qui a toujours été de l'informatique qui est utile: traiter des données plus rapidement et "efficacement" que ne peut le faire l'humain. Pour donner une illustration simple et pas vraiment précis imaginez que vous additionnez 2 nombres à 20 chiffres, une calculatrice donne un résultat en quelques millièmes de secondes tandis que si l'humain doit le faire de tête ou avec un stylo et une feuille de papier cela lui demande un peu plus de temps. C'est à peu près ce que va faire l'IA sauf qu'au lieu de chiffres il peut faire des opérations demandant énormément de paramètres(définit par des algorithmes càd. des modèles/statistiques simulant la pensée humaine).

Quand à vos exemples d'applications militaires et médicales ils existent déjà.

Imaginez un système de tir d'artillerie(encore à titre d'exemple pas vraiment précis ni représentatif du réel), plutôt que de faire calculer à un humain toutes les variables statistiques d'un tir un programme informatique va le faire à sa place. Cela pose évidemment des questions si c'est un drone autonome qui va décider si oui ou non il doit tirer sur une cible(en prenant en compte si elle est militaire ou civile il tirera ou pas). Ce qui nous emmène à un des inconvénients/problème essentiel des IA, la possibilité d'erreur.

Quand en médecine l'IA est déjà utilisée de nombreuses façons. Cela peut être par exemple pour comparer des modèles de diagnostic. Où un médecin même expérimenté a un nombre de diagnostics possible en tête une IA aura des modèles de comparaisons beaucoup plus nombreux et possibilité donc de détecter de façon plus fine/précise un problème ou son absence. Bien sûr la création des modèles(les fameux algorithmes) se basent sur la connaissance et expérience humaine.

Même chose pour la chirurgie à des échelles où l’œil humain ne peut voir et à fortiori la main humaine ne peut agir facilement: Une IA permet d'accéder à une précision accrue, si je me trompe pas toujours guidée par la "main" humaine à travers un programme informatique. Cela revient à pouvoir faire des opérations qui sont donc impossible sans et donc aider l'humain à soigner mieux et plus où les limites de nos perceptions/sens et précisions peuvent être dépassées par des modèles traités par des calculs informatiques.

Quant aux robots, être virtuels "vide" mais doté de l'IA un contre exemple à ce que vous dites existe. Imaginez des soignants surchargés et en nombre insuffisants. Et des patients demandeurs de soins. Un robot n'est certes p)as un médecin ou un infirmier et encore moins un humain mais il peut avoir des tâches simples comme la conversation ou le conseil et soulager ainsi le travail des humains débordés. L'un n'excluant pas l'autre mais offrant une nouvelle possibilité ou le savoir faire humain peut être pallié en cas d'absence de personnel ou pour des tâches plus complexes ou précises. Il me semble que ça a montré une certaine efficacité(à vérifier) dans des pathologies comme la maladie d'Alzheimer ou les aidants(souvent des proches) ont une tâche éprouvante et la patience d'un programme informatique est illimitée contrairement à l'humain. Bien sûr il ne s'agit pas de remplacer l'humain dans ses rapports sociaux mais cela offre une alternative pour résoudre des difficultés, améliorer la sécurité et les possibilités de surveillance. Ce dernier point ouvre un nouveau problème et comme vous l'indiquez pour des applications militaires rendre le monde pire. Les systèmes de détections par caméra basées sur IA existent et ont été mis en place(notamment durant les derniers JO). Et ce n'est ici pas vraiment un problème de l'outil mais de l'utilisation qui en est faite et plutôt la question de la sécurité contre la liberté, une question sociétale et non vraiment associée à une quelconque technologie.

Les inconvénients et problèmes de l'IA pour moi:

Les possibilités d'erreurs: Aucune modèle n'étant parfaits et l'IA étant à son (relatif)balbutiement l'acquisition de connaissance et résultats par IA peuvent être faux et considérés comme vrais. Ainsi de la désinformation peut être propagée par une IA et en fait le cas s'est produit.

L'apprentissage: Même avec une IA qui donnerait des résultat 100% correct la valeur de l'acquisition de la connaissance peut-être perdue. Je veut dire qu'apprendre à chercher par soi même est formateur et indispensable à la formation de la connaissance humaine. Ce qui fait la valeur d'un enseignement n'est pas que retenir des informations comme le fait une base de données mais de savoir chercher et trouver par soi même. Hors la facilité d'avoir un résultat, un texte bien rédigé, une présentation d'un sujet bien faite fournis par une IA n'est pas formateur pour l'esprit autant que le sera le processus complexe de devoir chercher/ramer/faire par soi même = apprendre à apprendre/rédiger/etc...Le risque hypothétique est donc sur le long terme de privilégier un résultat même valable à l’apprentissage forcément long et difficile du comment faire.

La standardisation et perte de créativité:

Comme expliqué plus haut une IA n'est pas une intelligence et n'a aucune imagination ou créativité. Elle se base sur des modèles et archétypes qui bien que complexes et se complexifiant toujours plus ne proposeront rien de nouveau. Au contraire c'est les bases existantes qui seront renforcées. Par exemple une IA est capable d'écrire un texte littéraire(donc artistique) en se basant sur grosso modo la moyenne des informations qu'elle a des textes littéraires que le programme utilise comme base. Bien que correct, même inspiré cela manque de l'apport humain qui peut sortir des clous/normes existantes nécessaires à l'art pour faire quelque chose de nouveau. L'IA est donc dans la création (artistique ou autre) limité à faire en s'inspirant de ce qui existe. Comme nous humains certes mais l'humain peut innover en sortant des clous pour proposer autre chose. Donc art et culture seraient figés dans un monde où l'IA serait l'unique pourvoyeur de création. Ce qui bien sûr n'est pas le cas et dans tous les domaines un créatif original humain ayant des compétences fait presque toujours mieux qu'une 'machine' imitant ce qui existe déjà. Cela peut le devenir si nous vivions dans une société globalisée ou l'imagination et l'originalité, la différence des modèles établis sont refusés(le conservatisme culturel). encore une fois le problème est sociétal et pas propre à l'outil.

Plus concrètement il existe différentes applications de l'IA et vos données sont la matière utilisées. être renseigné et informé de la sécurité des données et de la vie privée est une première étape pour en éviter ses dérives. Dérives dues à un système mercantile(quand c'est gratuit c'est vous le produit) digne des régimes de surveillance les plus totalitaires où plus besoin d'espion puisque c'est nous qui fournissons les informations, qui serviront dans le meilleur des cas à vous proposer des articles selon vos goûts estimés et à hausser les tarifs selon vos nécessités et particularités prises en compte etc... et dans le pire des cas je vous laisse imaginer.

Un paquet d'IA sont accessibles gratuitement et facilement. Le mieux serait d'essayer par vous même pour vous faire une meilleure opinion du sujet? Je parle des moteurs conversationnels ou générateurs d'images par exemple.