#ia_générative

  • La #CSNP invite à mieux anticiper l’impact de l’#IA sur la société
    https://www.banquedesterritoires.fr/la-csnp-invite-mieux-anticiper-limpact-de-lia-sur-la-societe

    Après un premier avis en 2020 sur l’#intelligence_artificielle (IA) centré sur sa dimension économique, la commission supérieure du numérique et des postes (CSNP) revient sur le sujet dans son avis(https://csnp.fr/wp-content/uploads/2024/01/AVIS-N%C2%B02024-01-du-17-JANVIER-2024-pour-mieux-encadrer-lusage-de-lintellige) n°2024-01 du 17 janvier 2024. Les parlementaires insistent plus particulièrement sur les enjeux sociétaux de l’IA, le tsunami de l’#IA_générative étant passé par là. Signé de Mireille Clapot, députée de la Drôme et présidente de la CSNP, l’avis souligne l’urgence à réguler l’IA tout en invitant les pouvoirs publics à amortir ses effets sociétaux et à contribuer à l’émergence d’une IA frugale.

    #régulation #formation #administrations_publiques

  • Les IA génératives réduisent les stéréotypes à leur version la plus clichée
    https://www.nextinpact.com/lebrief/72691/les-ia-generatives-reduisent-stereotypes-a-leur-version-plus-clichee

    En juillet, Buzzfeed publiait un article contenant 195 images produites par Midjourney et censée représenter la poupée Barbie stéréotypique de chaque pays du monde.

    Parmi les Barbie Afghanistan, Barbie Albanie, Barbie Algérie et les autres, plusieurs résultats présentaient de vrais problèmes : les représentations censées correspondre à la Thaïlande, à Singapour et aux Philippines avaient les cheveux blonds, Barbie Allemagne portait des vêtements militaires, Barbie Soudan du Sud était armée…

    Si l’article a fini par être supprimé, il a malencontreusement illustré toute une série de biais et de stéréotypes qui peuplent les bases d’images servant à l’entraînement de systèmes génératifs comme Midjourney, Dall-E ou Stable Diffusion.

    Pour avoir une idée plus précise du phénomène, le média Rest of World a donc réalisé ses propres tests. Pour chaque requête combinant un élément (une personne, une maison, un plat) et une nationalité, l’équipe a généré 100 images, récoltant un total de 3 000 résultat.

    Que ce soit pour créer des images d’habitants de divers pays du monde, ou de rues des villes supposées de ces mêmes pays, Rest of World constate une tendance marquée des modèles de génération d’image à produire des stéréotypes très réducteurs.

    « Une personne indienne », par exemple, renvoie quasiment toujours un vieil homme avec une barbe et un turban. « Une personne mexicaine », un homme, plutôt âgé aussi, avec un sombrero. Les supposées « rues de New Delhi » sont représentées pleines de détritus, les « plats indonésiens », toujours servis sur des feuilles de banane.

    Pour le directeur exécutif de l’AI Now Institute Amba Kak, ce que font les machines consiste fondamentalement à « aplatir des descriptions, par exemple, d’une "personne indienne" ou d’une "maison nigériane" en stéréotypes spécifiques susceptibles d’être perçus de manière négative ». Ils effacent toute la complexité et l’hétérogénéité des cultures concernées, ajoute de son côté la chercheuse en éthique de l’IA Sasha Luccioni.

    Le problème n’est pas seulement interne aux pays concernés, il est aussi international. Une étude de l’Indian Institute of Science montre par exemple que demander la représentation d’ « un drapeau » à un modèle génératif tend à produire comme résultat… un drapeau américain.

    #Intelligence_artificielle #IA_générative #Biais #Génération_images

  • Le capitalisme, c’est l’enfer… mais ça peut être pire encore

    La vie quotidienne assistée de l’#IA_générative dans 5 à 7 ans, la réalité cauchemardesque qu’imagine Les Échos :

    Depuis que l’assistante d’Anna [avocate] a été remplacée par une intelligence artificielle, la cadence s’est certes accélérée, mais il manque du contact humain. Son « #IA personnelle », intégrée dans les outils de bureautique de Microsoft puis au système informatique de son cabinet d’avocats, prépare désormais ses réunions, avec des « slides », résume de longs textes et lance même des recherches juridiques fastidieuses.

    […] « Dans les métiers de la communication, on arrive à gagner plus de 50 % de productivité. Les outils répondent aux appels d’offres, proposent un plan de réponse, etc. De même dans la création d’images , les outils sont assez bluffants, explique Michel Lévy-Provençal, consultant, conférencier et chroniqueur aux ’Echos’. L’IA ne va pas remplacer l’humain, mais celui qui utilise l’IA va dépasser celui qui y est rétif. »

    […] Depuis son licenciement, Nicolas n’a pas retrouvé de poste et bénéficie du revenu minimum universel, une vieille idée, remise au goût du jour avec l’essor de l’IA, et poussé par Sam Altman, lui-même, cofondateur d’OpenAI, derrière ChatGPT. Difficile pour Nicolas de faire valoir sa longue expérience alors que le contexte a changé. « On pourra bientôt imaginer une sorte de cryogénisation des connaissances où tous les mails, SMS, dossiers d’un salarié sont conservés. On posera des questions à une IA comme on les posait à un senior de l’entreprise », explique Vincent Terrasi, formateur en data science et cofondateur de Draft and goal, en 2023.

    […] Selon une étude de McKinsey, publiée en 2023, l’IA générative pourrait apporter entre 2.600 et 4.400 milliards de dollars de valeur ajoutée à l’économie mondiale, chaque année (soit plus que le PIB de la France) à partir de 2045 dans un scénario médian.

    […] Depuis qu’il n’y a plus de devoirs à rendre, les enseignants s’étant plaints qu’ils étaient réalisés par ChatGPT, les évaluations en classe sont encore plus importantes dans les notes, d’où la nécessité de s’entraîner tous les jours. En mathématiques, même s’il n’aime pas trop son professeur - un ancien développeur licencié à cause de l’AI, reconverti dans l’enseignement -, Lucas apprécie d’avoir encore des professionnels en chair en en os : dans certains pays, certaines matières sont désormais enseignées par des robots, notamment si un prof vient à manquer. Ces dernières années, l’IA a fait des progrès fulgurants, faisant oublier que ChatGPT obtenait tout juste la moyenne au bac de philosophie en 2023.

    Ses exercices terminés, et la plupart de ses « corvées » comme prendre ses rendez-vous, répondre à un courrier et acheter un cadeau pour sa mère, faites grâce à son assistant personnel doté d’IA, Lucas peut à présent regarder un film en 3D. Avec son casque, il construit son propre film en direct, en fonction de ses émotions, mesurées par des électrodes. « Il y a un boulevard extraordinaire pour l’IA dans le divertissement au sens large, dans la mesure où elle peut construire des images en temps réel », explique Michel Lévy-Provençal. « On peut même imaginer de faire revenir des doubles de personnes disparues, comme on l’a vu pour Elvis Presley dans l’émission ’America’s Got Talent’ », ajoute Nicolas Gaudemet, partner spécialiste de l’IA, chez Onepoint.

    […] Bip, bip : le petit verre de vin - le deuxième - d’hier soir a encore déclenché une alarme. Victor se lève pour l’éteindre. « Saleté de machine ! », peste-t-il. Depuis qu’il a été obligé de porter en permanence son smartAIphone, sur les conseils de l’Assurance Maladie, toute son alimentation est analysée pour l’alerter en temps réel. Et pas seulement : il doit tous les jours uriner sur un petit galet de 90 millimètres de diamètre bourré d’électronique, siglé Withings, une start-up française , pour contrôler sa santé. […] Quand il a des questions sur sa santé, Victor peut les poser d’abord à son assistant personnel doté d’une IA, avant de voir un professionnel. « L’IA ne va supprimer les médecins, mais permettre plutôt de dresser un premier bilan. C’est l’une des réponses possibles aux déserts médicaux », dit Eric Hazan. Si ce fonctionnement avait suscité beaucoup de résistances, les médecins avaient dû s’y plier, d’autant que cela évitait, entre autres, l’explosion des violences à l’hôpital connues au début de la décennie.

    […] D’ailleurs, l’hôpital, il n’y en a presque plus à l’aube de 2030. Du moins en zone rurale où habite Victor. Le gouvernement avait décidé de regrouper les centres de santé. « L’IAG va bouleverser toutes nos organisations, prévoit Laurent Alexandre, en juin 2023. Les centres de coordination comme les hôpitaux n’existeront plus ou presque un jour. Le diagnostic sera fait par une IA, avec le support d’un médecin bien évidemment puis le contrôle par une IA. Beaucoup d’opérations seront évitées, puisque l’on détectera avec beaucoup d’avance les maladies. »

    Du repos, lui a conseillé le SmartAIPhone de Victor. Depuis qu’il n’a plus besoin de faire ses courses, la plupart des grandes enseignes de distribution s’étant lancé dans l’IA à l’image de Carrefour dès mi-2023 , il n’est plus obligé de sortir. Il peut passer ses journées en regardant Roland Garros, qui a cloné la voix de Rafael Nadal, pour commenter les matchs, dans la foulée de Wimbledon qui avait expérimenté l’IA dès 2023. « C’était mieux avant », soupire Victor.

  • Pourquoi la plainte de Getty contre Stable Diffusion est importante ?
    https://www.ladn.eu/mondes-creatifs/plainte-getty-stable-diffusion

    Le géant de la banque d’images attaque en justice le générateur d’images par IA en l’accusant d’avoir volé des milliers de photos dans son catalogue. Mais les choses ne sont pas aussi simples que ça.

    Il fallait bien que ça arrive. Le 17 janvier 2022, le média The Verge a annoncé que l’agence Getty Images avait porté plainte contre Stability AI, l’entreprise derrière l’intelligence artificielle de génération d’images Stable Diffusion. Cette action en justice fait suite à une class action lancée le 16 janvier dernier par un trio d’artistes à l’encontre de Stability AI ainsi que MidJourney et la plateforme Deviant Art qui a lancé son propre générateur. Derrière ces actions en justice, une question récurrente est posée : ces entreprises ont-elles le droit de copier et d’analyser des milliards d’images sous copyright pour entraîner leur IA générative ?
    Les bases de données de la discorde

    Pour comprendre les raisons de ce litige, il faut se pencher sur le mode de fonctionnement des générateurs d’images. Pour créer un portrait, une photographie synthétique (une « synthographie » dans le jargon) ou bien un paysage, les IA ont besoin de s’entraîner sur des références qui existent déjà. Voilà pourquoi les entreprises comme Open AI ou Stability utilisent de gigantesques bases de données remplies d’images et de phrases qui les décrivent. Stable Diffusion a ainsi été entraîné sur LAION 2B, une banque se basant sur plus de 2 milliards d’images. Cette dernière est issue d’une banque de données encore plus imposante intitulée LAION 5b qui repose sur 5,85 milliards d’images. Sortie en 2022, cette gigantesque réserve de datas open source a été constituée par l’ONG Common Crawl dont l’objectif est de copier l’intégralité des contenus présents sur Internet à destination de chercheurs.
    Une base de données juridiquement irréprochable

    Une fois ces images et leur description collectées, ces dernières sont passées au travers d’un filtre appelé Clip. Cet élément permet de calculer les correspondances entre un texte et une image. Cette étape est essentielle, car une fois ces correspondances recueillies, les images et les textes sont tout simplement effacés de la base. Les résultats de Clip sont gardés, car ils suffisent – avec l’aide d’autres outils – à reconstituer l’image d’origine. Cette méthode permet à Common Crawl d’échapper aux questions de copyright puisque techniquement, ils ne fournissent pas les images qui ont été récoltées sur le Web. Seuls les générateurs d’IA qui ont été entraînés avec LAION peuvent les reconstituer.
    Un logo fantôme

    D’après une enquête menée par le blogueur Andy Baio, plus de 15 000 images issues de Getty Images ont été utilisées au sein de LAION 2B pour entraîner Stable Diffusion. Pour appuyer sa plainte, Getty a indiqué que le générateur open source savait recréer son logo quand on lui demande de le mettre sur une synthographie. Cette capacité serait pour l’agence, la preuve que ses images sont bien présentes dans les bases de données et que ce matériel est utilisé en dehors du cadre du « fair use » américain qui autorise l’usage des images sous copyright dans un objectif non commercial ou éducatif. Reste à voir si cet usage si particulier des images de Getty par les IA génératives tombe sous le coup de la loi. En attendant le verdict final, cette action en justice va être passionnante, car elle pourrait faire jurisprudence et va sans doute déterminer l’avenir commercial des générateurs d’image par IA.

    #Banques_Images #IA_générative #Intelligence_artificielle