Rêve ou cauchemar ?

+ 8 -

GruikMan Vermisseau

600 millions de chinois....
Émois émois émois....

+ 0 -

Shoot Vermisseau

Le boom des IA + ça , ça fait flipper.

+ 0 -

Crocseldifivic Vermisseau

Je me demande si il est possible un jour de "perdre le contrôle" Des IA ? Un peu comme un mauvais film de sci-fi

+ 1 -

Actarus En réponse à Crocseldifivic Vermisseau

Théoriquement ça semble plus ou moins possible. Si celles qui tournent à différents endroits arrivent à un niveau de performance suffisant pour se répliquer en outrepassant les barrières informatiques (firewall etc..) c'est un peu comme un virus intelligent qu'il sera difficile d'éradiquer. Et difficile de dire on débranche le cloud le temps de faire le nettoyage vu que ça impacterait énormément de monde.

Il reste toutefois le problème des ressources physiques (serveurs, puce IA) qui ne sont pas illimitées. Il faudrait que l'IA pilote des robots qui construiraient des data centers pour continuer à croître en puissance.

Là tu mets une bombe, ça devrait régler le problème.

+ 0 -

Sachant qu'il y a pas mal de scenarii possible qui vont de "perte de contrôle simple" à la "révolution des machines".

La révolution des machines façon "terminator" est la plus improbable mais il y a bien d'autres dangers et ceux-ci seront d'autant plus impactant que les fournisseurs de ces services ou que les API permettant de les concevoir seront seront monopolistique.

Par exemple :
- Un modèle de voiture autonome qui tue régulièrement ses passagers sans raison valable => perte de contrôle à cause d'un défaut de conception
- la bulle de protection d'un groupe aéronaval combiné à de l'IA qui déraille en abattant un avion de ligne parce qu'il y conclu qu'il subit une attaque (style Iran air 655), c'est une perte de contrôle simple mais qui peut escalader jusqu'au conflit nucléaire.
- l'intégralité des robots policiers qui, suite à une mise à jour ou à un retour d'information sur un attentat ou d'une action criminelle, traitent comme des terroristes et des assassins des gens innocents.

+ 0 -

Oui tout à faire d'accord et dans la même ligne il pourrait y avoir un piratage ou dysfonctionnement des implants style Neuralink. Tu te retrouves face à des humains hors de contrôle influencés ou pilotés par une IA. Tu fais quoi, tu les abats ou tu laisses faire car ce sont des hommes à la base ?

+ 0 -

Même sans neuralink ou IA, on voit les dégâts liés à des biais ou des erreurs : https://www.20m...t-justice-faite

Il y a régulièrement des essais de logiciel censé prévoir la criminalité mais cela semble être peu fiable.

+ 0 -

feyfey En réponse à Actarus Lombrique girafe cougar chienne poule y dort

Avant même la perte de contrôle d’une IA se pose le problème du hacking tout simplement : quelles seraient les conséquences de prises en main par l’ennemi ( osef quel ennemi c’est pour l’exemple) d’IA gérant des données sensibles ? De voitures autonomes ? De communications quelconques ? Parce que même si une IA est au fait de son besoin energivore il sera difficile pour elle de « commander » le matos nécessaire avec une facturation derrière :D.
Et pour ce qui est d’une bombe : ça ne fonctionnerait pas puisque les systèmes seraient hors contrôle. Donc pas de lancement.
Le plus simple et le plus rudimentaire reste un accès purement mécanique, une vraie porte à serrure, sans électronique pour un accès à une coupure générale, un gros bouton rouge quoi.

+ 1 -

Bidon85 En réponse à Crocseldifivic Vermisseau

Tout dépend de son autonomie et des interconnexions que tu lui offre mais cela ne semble pas impossible.

Et je ne taperais pas trop sur les auteurs de films de science fiction. si certains sont vraiment superficiel ou sont tombé à côté, d'autres sont carrément plus flippant tellement ils semblent visionnaire.

Dans la série "au-delà du réel - l'aventure continue" (1995), il y a les épisodes "Valérie 23" , "Mary 25"

+ 0 -

Merci pour ces références, je jetterai un cou d’œil.

+ 0 -

Crocseldifivic En réponse à Actarus Vermisseau

Intéressant ! Merci d'avoir développer

+ 0 -

Actarus En réponse à Crocseldifivic Vermisseau

En y repensant, il y a maintenant les puces Apple M4 et bientôt Intel, qui embarquent une partie IA (c'est du calcul matriciel hautement parallélisé en gros). Ce qui veut dire que cette puissance de calcul va se retrouver distribuée sur le Net de manière plus massive qu'aujourd'hui. Alors qu'aujourd'hui elle est cantonnée aux data centers (le cloud) et aux PC de gamers avec les cartes graphiques.

Donc oué, on pourrait imaginer que cette puissance de calcul soit piratée par une "IA virus" qui se distribue sur tous les PC qui sont infectés et en marche à un moment T et donc un peu hors de contrôle. On a toujours réussi à se débarrasser des virus mais c'était du code sans aucune capacité d'IA et donc prévisible.

Il y a aussi tout ce qui est mix entre la technologie et le biologique, Neuralink et compagnie ou de l'IA sur pattes comme dans le film "The Creator". Là, la frontière devient plus floue.

+ 0 -

Le problème n'est pas l'IA mais la manière dont elle est connecté.

Le fait que les processeurs ont des fonctions d'émulation de réseau neuronaux ne signifie pas non plus que le système peut prendre le contrôle de la machine. Avec une architecture du type BIOS/UEFI, ll faudra qu'un code machine lui donne la main à un moment ou à un autre.

Tu as peu de chance de te faire attaquer façon "alien" par ta montre connectée. Par contre, par une voiture qui se comporte comme KARR à la suite d'un virus, un scénario à la x-files du genre "le fantôme dans la machine" ou "Rm9sbG93ZXJz", ça peut vite devenir gênant surtout si ça arrive en masse ...

Et surtout, comment réagir derrière s'il y a eu une convergence technologique qui à détruit tout les outils "traditionnel" ? Comment bosser du jour au lendemain sans ordinateur si même les chefs n'ont plus le savoir-faire.

+ 0 -

La puissance de calcul du processeur peut être détournée sans que l'on s'en rende compte. Je crois que c'est déjà le cas pour les PC gamers, il y a des attaques dessus. Tu installes un soft que tu crois inoffensif mais qui finalement utilise ta puissance cpu pour des tâches que tu n'as pas demandées. Ca y est, tu lui a donné la main.

Si suffisamment de PC sont infectés une IA distribuée aurait du coup toujours suffisamment de puissance de calcul pour mener à bien son but. But qui pourrait être effectivement de détourner le comportement d'un parc automobile en ayant une vision globale de toutes celles qui sont connectées. On peut aussi peut être imaginer qu'elle puisse modifier le fonctionnement d'une centrale nucléaire ou n'importe quoi d'autre qui est piloté par l'informatique du moment qu'effectivement c'est connecté et que des failles de sécurité existent.

+ 1 -

Mais dans un tel cas, un pays peut déclarer l'état d'urgence et agir en coupant tout les réseaux de communication ce qui casse cette IA répartie.

Par contre, l'étape suivante est moins facile : nettoyer les machines.

C'est tout de suite moins drôle lorsque l'on voit que la plupart des ordinateurs n'ont plus de CD/DVD d'installation (non modifiable), qu'il faut aller sur internet afin d'avoir une image disque en espérant qu'elle ne soit pas vérolée ou encore que ce ne soit pas réellement réinstallable ou nettoyable (virus dans bios ou microprogramme processeur), smartphone dont les ROM sont inaccessible ...)

+ 0 -

Le problème c'est la notion de niveau de danger qui peut être floue. Ca efface pas les données mais il y a des choses bizarres qui se passent, on tergiverse en se demandant d'où ça vient et puis finalement le système bancaire est mis à plat ou c'est le binz un peu global. Bien d'accord pour ce qui est du manque de CDROM.