Google-personeel bezorgd over ethiek bij AI-stroomversnelling

Dat blijkt uit gesprekken met personeel en ingeziene informatie van Bloomberg. Google is bezig met een inhaalrace op het gebied van kunstmatige intelligentie, nadat concurrent OpenAI een krachtige AI uitbracht. De OpenAI-technologie zit nu in de Microsoft-webbrowser Bing, die daardoor slimme antwoorden bij zoekresultaten kan geven.

Google liep jarenlang voor op het gebied van kunstmatige intelligentie, maar was ook voorzichtig bij de bouw van zijn AI-software. In december zou de bedrijfstop een 'code rood' hebben aangekondigd, waarbij werd besloten sneller risico's te nemen. Ze hopen dat foutjes sneller worden vergeven als vooraf duidelijk wordt gemaakt dat de software experimenteel is.

Het Google-team verantwoordelijk voor ethiek zou sindsdien minder gezag en invloed hebben. Teamleden is gevraagd niet 'in de weg te lopen' en niet zomaar de stekker uit AI-projecten proberen te trekken.

Onvrede over chatbot

Veiligheidsregels rond nieuwe software zouden ook langzaamaan worden losgelaten. Eerder moest software bij een test voor kindvriendelijkheid een score van 100 procent halen, maar een topvrouw heeft bepaald dat 99 procent ook acceptabel is. 

In de tussentijd is personeel ontevreden over de nieuwe AI-chatbot Bard, waarmee je Googles software vragen kunt stellen. Eén medewerker noemt de app een 'pathologische leugenaar', terwijl een ander er op wijst dat informatie vaak niet klopt. Vraag je aan Bard hoe je een vliegtuig moet landen, dan zou de software vaak iets voorstellen dat tot een crash leidt.

Zorgen van tafel

Personeel maakte een analyse van de mogelijke risico's bij de software. Hierin stond dat Bard nog niet klaar is voor het grote publiek, omdat de software schade kan aanrichten. Dit rapport werd van tafel geveegd, waarna Bard voor het grote publiek beschikbaar werd gesteld.

Recent bleek dat Google druk bezig is met AI-integraties in de algemene zoekmachine van het bedrijf. Die innovaties worden vermoedelijk volgende maand gepresenteerd op ontwikkelaarsconferentie Google I/O.

Google maakt reclames met AI

Google gaat binnenkort ook AI-tools voor adverteerders uitrollen, schrijft de Financial Times op basis van een interne Google-presentatie. Daarmee kunnen ze materialen voor reclamecampagnes genereren. Adverteerders sturen eerst afbeeldingen, video’s en teksten naar het AI-systeem, waarna de Google-software daarmee zelf nieuwe advertenties genereert die verschillen per doelgroep en per verkoopdoel.