Pour conquérir le marché, les grands acteurs déploient l’IA très vite, et cela amène forcément à des situations hors de contrôle. C’est ce que traverse Google, qui se trouve au cœur d’une controverse liée à son outil d’intelligence artificielle, IA Overviews. Celle-ci semble produire des réponses controversées, créant la polémique sur les réseaux sociaux.
Le 30/05/2024 : La réaction de Google sur son blog
Suite au « bad buzz » des résultats nourris par l’IA, Google a réagit officiellement à travers un article de blog, avec les points suivants :
- Annonce et retour utilisateur : Google a annoncé lors de Google I/O qu’ils introduiraient les « AI Overviews » aux États-Unis.
- Fonctionnement des AI Overviews : Ces résumés AI aident à répondre à des questions complexes, incluant des liens vers des contenus pertinents. Contrairement aux chatbots, ils intègrent des systèmes de classement web pour trouver des résultats de qualité.
- Précision et erreurs : Les AI Overviews visent à fournir des informations exactes, mais peuvent parfois se tromper en raison d’interprétations incorrectes ou d’un manque d’informations de qualité. Des captures d’écran erronées ou falsifiées ont circulé, mais Google assure que certaines de ces allégations sont fausses.
- Tests et améliorations : Avant le lancement, Google a testé ces résumés de manière exhaustive. Malgré cela, des erreurs ont été observées, notamment pour des requêtes absurdes ou satiriques.
- Exemples de problèmes : Des requêtes comme « combien de pierres devrais-je manger ? » ont montré des réponses basées sur un contenu satirique, soulignant des lacunes dans la détection de ces contenus.
- Améliorations apportées : Google a mis en place des mécanismes pour mieux détecter les requêtes non-sens, limiter l’inclusion de contenus humoristiques et restreindre les réponses basées sur des contenus générés par les utilisateurs susceptibles de donner des conseils trompeurs.
- Surveillance et protection : Google continue de surveiller les retours et les rapports externes, en supprimant les réponses non conformes aux politiques de contenu, notamment celles potentiellement nuisibles. Les violations de ces politiques sont rares.
Le 27/05/2024 : Le déploiement tumultueux de l’IA Overview
Les réseaux sociaux sont inondés d’exemples montrant des réponses étranges fournies par IA Overviews, le nouvel outil d’IA de Google. De l’idée de mettre de la colle sur une pizza à celle de manger des cailloux, ces réponses ont suscité des réactions vives et des mèmes sur Internet. Face à cette situation, Google a dû agir rapidement pour désactiver les aperçus d’IA problématiques au fur et à mesure de leur apparition en ligne.
L’entreprise s’efforce de corriger manuellement des réponses inhabituelles générées par l’IA, une situation qui soulève des questions sur l’état de préparation de la technologie. Comment une entreprise réputée pour son innovation en est-elle arrivée là ? Découvrez les enjeux et les actions mises en place par Google pour remédier à ces problèmes.
Cette réaction rapide est d’autant plus surprenante que Google teste AI Overviews depuis un an. Lancé en version bêta en mai 2023 sous le nom de Search Generative Experience, l’outil a traité plus d’un milliard de requêtes. Malgré cela, les problèmes persistent, soulignant peut-être une précipitation dans l’optimisation technique avant que la technologie ne soit pleinement mature.
Les défis de l’optimisation et les réactions de Google
Sundar Pichai, PDG de Google, a indiqué que l’entreprise avait réduit de 80 % le coût de la fourniture de réponses IA grâce à des avancées matérielles et technologiques. Cependant, cette optimisation semble avoir été mise en place prématurément. Google continue de défendre la qualité de son produit, affirmant que la plupart des erreurs proviennent de requêtes peu courantes ou trafiquées.
Meghann Farnsworth, porte-parole de Google, a confirmé que des mesures rapides sont prises pour supprimer les aperçus problématiques lorsque cela est jugé approprié, en vertu des règles de contenu de l’entreprise. Ces incidents sont utilisés pour améliorer les systèmes existants, avec certaines mises à jour déjà en cours de déploiement.
Les perspectives et la concurrence dans le domaine de l’IA
Différents experts en IA indiquent que passer de 80 % à 100 % de précision dans les réponses IA est extrêmement difficile. Selon eux, cela nécessite un raisonnement avancé et une vérification des faits semblable à celle réalisée par un humain, ce qui pourrait nécessiter une véritable intelligence générale artificielle.
La levée de fonds récente de xAI d’Elon Musk le montre : Google fait face à une concurrence intense dans le domaine de l’IA. Bing a pris de l’avance avec des initiatives IA grâce à son outil Copilot, basé sur la technologie de ChatGPT, tandis qu’OpenAI développerait son propre moteur de recherche, et la jeune génération d’utilisateurs préfère des plateformes comme TikTok pour leurs recherches. La pression est donc forte sur Google pour offrir la meilleure expérience possible.
Malgré ces problématiques, Google poursuit ses ambitions avec sa fonctionnalité d’intelligence artificielle Overview. L’entreprise a de grands projets, y compris le raisonnement en plusieurs étapes pour des requêtes complexes et la génération de pages de résultats organisées par l’IA. Cependant, la priorité actuelle reste la résolution des problèmes de base pour maintenir la réputation de Google.