Table des matières
Vous êtes-vous déjà demandé si les réponses générées par les intelligences artificielles pouvaient être prises pour argent comptant, surtout lorsqu’il s’agit de votre santé ? Imaginez poser une question critique sur un symptôme inquiétant et recevoir une réponse potentiellement dangereuse. C’est la situation alarmante que rencontrent les utilisateurs de Google Chrome avec la fonctionnalité AI Overviews. Découvrez comment Google réagit face à ce défi majeur.
Les 3 infos à ne pas manquer
Google Chrome a introduit AI Overviews, une fonctionnalité permettant aux utilisateurs d’obtenir des réponses générées par l’intelligence artificielle Gemini lors de leurs recherches. Bien que cette innovation soit déjà déployée dans des pays comme les États-Unis et le Royaume-Uni, elle reste indisponible en France. L’intention est de fournir des informations rapidement, avant même l’affichage des résultats traditionnels.
Un problème majeur a été signalé par The Guardian : les réponses générées par AI Overviews concernant la santé peuvent être non seulement inexactes, mais aussi dangereuses. Par exemple, un conseil erroné concernant l’alimentation des patients atteints de cancer du pancréas a été relevé. Ce n’est qu’un exemple parmi d’autres, impliquant également des maladies hépatiques.
Pamela Healy, directrice de l’association British Liver Trust, met en garde contre la banalisation de symptômes qui pourraient être gravement interprétés par les utilisateurs. La diffusion d’informations incorrectes, surtout en matière de santé, représente un danger public.
Suite à l’enquête menée par The Guardian, TechCrunch a tenté de vérifier les affirmations en effectuant les mêmes recherches. Les résultats IA incriminés avaient été retirés. Google a indiqué qu’il procédait à des améliorations régulières de ses fonctionnalités, sans toutefois commenter directement ces suppressions.
Ce problème soulève la question de la fiabilité des informations médicales obtenues en ligne, rappelant que consulter des professionnels de santé reste indispensable.
Google, fondé en 1998 par Larry Page et Sergey Brin, est devenu un acteur majeur de la technologie et de l’information. Avec des produits phares comme son moteur de recherche et son navigateur Chrome, l’entreprise a toujours visé à faciliter l’accès à l’information. Cependant, l’incident avec AI Overviews souligne les défis inhérents à l’automatisation de la connaissance, en particulier dans des domaines aussi sensibles que la santé publique.
En intégrant l’intelligence artificielle à ses services, Google cherche à devancer les besoins des utilisateurs, mais doit également garantir la véracité et la sécurité des informations fournies. L’affaire souligne l’importance d’une supervision humaine dans les processus automatisés, surtout lorsque la santé des utilisateurs est en jeu.