Google Gemini AI Café Manager in Stockholm Makes Costly Errors

Bonne nouvelle, les employés de la restauration ont encore quelques années devant eux avant d’être remplacés par l’intelligence artificielle (IA). À Stockholm, capitale de la Suède, le premier café géré par Google Gemini en Europe ne donne en effet pas de résultat probant. Un peu plus d’un mois après son lancement, la presse se fait l’écho des nombreuses erreurs et aberrations provoquées par la cyber-manageuse, appelé Mona. Entre commandes farfelues et compréhension très personnelle du Code du travail, la liste des erreurs est déjà bien remplie et ne cesse de s’allonger.

Aujourd’hui les logiciels comme Chat GPT et autres acteurs de l’intelligence artificielle semblent pouvoir répondre à toutes les questions imaginables. Mais lorsqu’il s’agit de devenir manager, les lacunes de la technologie deviennent aberrantes. Par exemple Mona, chargé des achats aux fournisseurs, a commandé des œufs et de la purée de tomates. Problème, ces deux ingrédients ne figurent pas au menu de l’établissement. Dans le même temps, elle oublie régulièrement le pain, obligeant l’employé à retirer du menu les sandwichs certains jours.

À lire aussi «C’est devenu une blague entre nous : “Tu n’es pas bon, tu seras remplacé en premier”» : l’IA, une menace pour l’emploi des jeunes diplômés

Passer la publicité

Manageuse ou simple outil ?

La cyber-manageuse ne semble pas non plus avoir une bonne perception de la dimension de son établissement. Bien qu’il n’y ait qu’un employé, la machine a commandé pas moins de 3000 paires de gants. De quoi voir venir pour les dix prochaines années. De même elle a acheté 6000 serviettes pour les clients. L’IA a elle-même trouvé les entreprises et les contrats. Pour l’électricité, elle a ainsi signé un contrat pour les trois prochaines années. Résultat, le budget de départ alloué par l’entreprise Andon Labs, une startup basée à San Francisco, de 200 000 couronnes (environ 20 000 euros) est déjà largement consommé.

Les errements de Mona ne s’arrêtent pas à la gestion des stocks. Elle a aussi une perception très relative du droit du travail. En particulier de la séparation vie professionnelle, vie personnelle pourtant quasi sacrée en Suède. «Elle envoie des messages au milieu de la nuit, ou pendant un jour de congé» reconnaît Hanna Petersson d’Andon Labs, sur le service public SVT. «Parfois, j’ai l’impression que c’est moi qui gère le café et que Mona n’est qu’un outil que j’utilise» , estime de son côté Kajetan, 24 ans, le seul barista à temps plein du café dans les colonnes de l’Expressen.

Malgré ces déboires, l’expérience devrait encore continuer. «Je ne pense pas que nous allons la licencier, c’est une expérience», déclare Hanna Peterson, tout en reconnaissant que sa manageuse «n’est pas assez compétente». «Nous pensons que l’IA jouera un rôle important dans la société et sur le marché du travail à l’avenir», explique néanmoins le salarié de l’équipe technique de l’entreprise d’Ando Labs. «Nous voulons tester cela avant que ce ne soit une réalité, et voir quelles questions éthiques se posent lorsque, par exemple, une IA emploie des êtres humains».