Franchement je veux votre avis ! Je vois bcp bcp d’articles de ce style passer. Mais je me demande quand même : à quel point ces articles et surtout ces universitaires ont raison

Parce que franchement pour l’instant OK c’est rigolo vite fait mais franchement ça à encore vla les défauts l’IA. Donc je me demande à quel point ces gens sont dans la spéculation et dans un “fantasme” de fin du monde typique d’un film de SF ?

  • Kuinox@lemmy.worldFrançais
    2·
    9 months ago

    à quel point ces articles et surtout ces universitaires ont raison

    On parle de prédication du futur, personne ne sait si ils ont raison.
    Mais là on parle de quelqu’un qui parle de lâcher des missiles sur des datacenter s’ils entraînent des IA.

    L’auteur passe de “l’IA va dépasser l’intelligence de l’humain” à “l’IA a une volonté propre et veut éliminer l’humain”, le tout dit par un expert qui pense avoir inventé le concept d’aligment d’IA, concept inventé avant qu’il soit né.

    Le problème c’est qu’on est pas tout seul ici, et les Chinois ils vont pas arrêter la recherche sur l’IA aux dernières nouvelles.

    Le truc dans tout ça, c’est qu’a cause de ce genre de discours très racoleur, on parle pas ou peu (3 lignes a la fin de l’article) des vrai problèmed, inévitable:

    la mise au chômage d’un grand nombre de travailleurs, plus de désinformation à des fins politiques ou encore des comportements crapuleux, par le biais de la création de “deepfakes”.

    La technologies est déjà là, et peut remplacer des centaines de milliers d’emplois (ie: standardiste téléphonique), il manque juste que ça soit appliqué par des ingénieurs compétent. Il faudrait se bouger le cul maintenant pour éviter plus de misère (mais le gouvernement actuel en a rien a foutre de la misère).

    • ShadeOW@jlai.luOPFrançais
      1·
      9 months ago

      Oui la mise au chômage de personnes qui ont rien demandé je suis d’accord c’est réel et un soucis.

  • CommationCerebrole@jlai.luFrançais
    2·
    9 months ago

    Y a la très bonne vidéo de Mr Phi sur le chatbot de Bing qui aborde un peu ce sujet. Il fait remarquer que quand on met un prompt qui dit : “tu es une IA qui réponds aux questions de l’utilisateur”, et bien on va souvent vite retrouver des réponses d’IA “défaillantes” parce qu’elles se comportent quasiment toujours comme ça dans les fictions écrites par les humains qui alimentent les LLM. Ça serait amusant si l’IA exterminait les humains précisément parce que dans l’imaginaire des humains les IA exterminent les humains.

    Sinon personellement j’y crois absolument pas. Peut être que dans 5 ans on verra émerger des nouvelles formes de vie intelligente. Mais pourquoi cela devrait automatiquement mener à une guerre ?

    • Julien Falgas@lemmy.worldFrançais
      3·
      9 months ago

      Pascal Robert et moi étions revenus sur la fameuse “lettre pour une pause” signée par des milliers d’experts autoproclamés de l’IA :

      https://theconversation.com/presenter-lia-comme-une-evidence-cest-empecher-de-reflechir-le-numerique-211766

      Le fait de jouer à se faire peur est un marqueur ancien des discours autour de l’informatique (l’article en présente 6 autres). Consciemment ou non, ceux qui agitent ces peurs fantasmées cherchent à nous persuader de la puissance de la technique. Comme ils se présentent en experts, c’est une manière pour eux d’asseoir leur pouvoir. Derrière ce discours trompeur, le “progrès” peut se poursuivre sans s’embarrasser de débat public sur les choix techniques et sur leur mise en œuvre.

      Je parle sciemment de “technique” et pas de “technologie”. Car la technologie recouvre l’étude des outils et des techniques, et donc l’ensemble des connaissances à leur sujet. Or les chantres de “l’innovation technologique” se bornent à la connaissance technique pure (c’est ce qu’ils appellent “progrès”), en omettant les contextes sociaux, politiques, écologiques et économiques avec lesquels elle interagit.

      L’IA, ce ne sont pas que des machines et des logiciels. C’est aussi toute une infrastructure de datacenters, de câblages, de production d’énergie… Et derrière, ce sont des mâles blancs privilégiés qui développent les techniques, avec d’autres cols blancs qui les font tourner. Mais surtout une armada de travailleurs du clics qui annotent les données pour quelques $ la journée. Et bien sûr toutes celles et ceux qui produisent ces données et qui n’ont pas voix au chapitre quant à l’utilisation qui en est faite.

      Ce qui pourrait être un grand projet d’intelligence collective (mettre en commun l’intelligence de chacune et chacun pour réaliser des tâches impossibles à l’échelle individuelle) est une vulgaire entreprise d’enrichissement privé avec des conséquences bien réelles sur l’équilibre de nos sociétés.

    • 🏳️‍⚧️-🇵🇸 TGhost [She/Her]@lemmy.dbzer0.comFrançais
      2·
      9 months ago

      Ah jai pas lue encore du coup. Je te dirais ici mdrr.

      En vrai ce qui me fait peur cest pas LIA mais les humains et entreprises derrière. On a bien vu que “make the world a better place”, la technologie version sp500 (gafam) cest tout sauf ca.

      Un robot est un tueur si on l’équipe d’arme etc, mais ca reste lhomme derrière.
      Si on veut mettre des verrous ont peu. Si on le fait pas ou fera pas, cest pas pour rien.

      Un robot détecte des arabes en terroristes et des noirs en tant que singe car lhomme lui a transmis ses biais.

      Si le monde se détruit avec lia, ce sera la faute de l’Homme. Ca peut accélérer le rythme, ou alors inverser la tendance. Dépend qui est derrière.

      Parlant de SF, il est clair que le capitalisme s’en inspire pour les produits de demain. Mais les morales et les aspects de la SF ils sen contre foutent. Et notre société aussi.

      Ce qui me fait peur cest lhomme et le modèle capitaliste patriarcal ou le cis alpha blanc est dominateur. Ou cis alpha bronze dans d’autres pays concernant d’autres minorités. On restera dans le modèle patriarcal néanmoins.

      Cf la coupe du monde apres tout.