Google a temporairement arrêté les outils de création d’images IA dans Gemini en raison d’une erreur concernant un personnage historique. Le géant de la technologie a adopté une position proactive, répondant aux préoccupations soulevées par les utilisateurs frustrés.

Récemment article de blog, Prabhakar Raghavan, vice-président senior de Google, a franchement reconnu les faux pas dans un article de blog complet, expliquant les défis rencontrés par la technologie de l’IA. Il a noté que l’application conversationnelle de Gemini, reconnue comme un produit autonome, fonctionne indépendamment de la recherche Google et de son modèle d’IA sous-jacent. Le modèle Imagen 2 AI prend en charge les fonctionnalités de création d’images de l’application.

(Photo : ALAIN JOCARD/AFP via Getty Images) Alphabet Inc. et le PDG de Google, Sundar Pichai, s’expriment lors de l’inauguration du pôle d’intelligence artificielle (IA) de Google à Paris le 15 février 2024.

Ce qui est faux?

Les dirigeants de Google ont souligné les aspirations du géant de la technologie à l’inclusivité lors du développement de la fonctionnalité, qui impliquait des ajustements minutieux pour éviter les erreurs survenues avec les technologies de génération d’images précédentes, en particulier pour éviter la création de contenu inapproprié. Cependant, malgré ces efforts concertés, des problèmes sont apparus en raison de deux facteurs importants.

Raghavan explique : « Alors, qu’est-ce qui n’a pas fonctionné ? En bref, il y avait deux choses. Premièrement, nos ajustements pour garantir que les Gémeaux montraient un éventail de personnes n’ont pas pris en compte les cas qui ne devraient pas montrer l’éventail aussi clairement. Et deuxièmement, au fur et à mesure que le temps s’est écoulé,  » Le modèle est devenu beaucoup plus prudent que nous l’aurions souhaité et a complètement refusé de répondre à certains ordres, interprétant à tort certains ordres très anodins comme quelque chose de sensible. « 

« Ce n’est pas ce que nous voulions. Nous ne voulons pas que Gemini refuse de créer des images de certains groupes. Et nous ne voulons pas que Gemini crée des images historiques ou autres inexactes », Raghavan, vice-président principal, Connaissances et informations de Google, déclaré.

En conséquence, Google a immédiatement désactivé la génération d’images de personnes dans Gemini et s’est engagé dans un processus de remédiation substantiel avant de réactiver la fonctionnalité. Cela comprend des tests rigoureux pour garantir une précision et une fiabilité accrues.

Lire aussi : L’OMC envisage de taxer les médias numériques, menaçant Netflix, Spotify et les jeux vidéo

Googleurs vers Gémeaux : soyez prudent

Pour l’avenir, Raghavan met en garde les utilisateurs en déclarant : « Une chose à garder à l’esprit : Gemini a été créé comme un outil de créativité et de productivité, et peut ne pas toujours être fiable, en particulier lors de la génération d’images ou de textes sur l’actualité, le développement d’actualités ou de sujets d’actualité. . Elle fera des erreurs. Comme nous l’avons dit depuis le début, les hallucinations sont un défi commun à tous les LLM : il y a des moments où l’IA commet des erreurs. C’est quelque chose que nous continuons à améliorer. »

Bien que Gemini tente de fournir des réponses factuelles aux demandes, il est conseillé aux utilisateurs de faire preuve de prudence. L’outil d’IA intègre une fonction de relecture pour évaluer la justification du contenu sur le Web. Cependant, Google recommande de s’appuyer sur la recherche Google pour obtenir des informations à jour et de haute qualité sur les événements et sujets d’actualité, en utilisant des systèmes distincts qui garantissent la fourniture d’informations récentes et fiables provenant de plusieurs sources.

Reconnaissant la possibilité que Gemini fournisse parfois des résultats embarrassants, inexacts ou offensants, Google s’engage à prendre des mesures rapides dès l’identification de tout problème. Raghavan a souligné la nature évolutive et bénéfique de la technologie de l’IA et a démontré l’engagement de Google en faveur de déploiements sûrs et responsables.

« L’IA est une nouvelle technologie utile à bien des égards et dotée d’un grand potentiel, et nous faisons de notre mieux pour la mettre en œuvre de manière sûre et responsable », a-t-il écrit.

Pendant ce temps, Google a démenti les rumeurs sur les réseaux sociaux. Les récentes publications virales sur des plateformes comme Twitter ont semé la panique parmi des millions d’utilisateurs de Gmail, indiquant que le service fermera définitivement en août 2024.

TechTimes rapporte que le message alarmant s’est avéré être un canular, un message recyclé datant de l’arrêt de Gmail Basic par Google. Les utilisateurs peuvent être assurés que Gmail continuera à fonctionner et n’auront pas à craindre de perdre leurs comptes de messagerie ou leurs fichiers importants.

Article associé: Jeff Bezos et Nvidia investissent 675 millions de dollars dans des robots humanoïdes

ⓒ 2024 TECHTIMES.com Tous droits réservés. Ne pas reproduire sans permission.