To všetko bolo pre Starka ťažkým zameraním v stredu 10. marca, keď mu spoločnosť Google poslala blahoprajný list, v ktorom mu ponúkla 60 000 dolárov za jeho návrh výskumného projektu, ktorý by sa zameral na to, ako spoločnosti vyvíjajú umelú inteligenciu, ktorá sa používa na detekciu emócií. . Stark uviedol, že okamžite cítil, že musí cenu odmietnuť, aby prejavil svoju podporu Gebru a Mitchellovi, ako aj tým, ktorí sú stále v etickom tíme spoločnosti Google.

„Moja prvá myšlienka bola: ‚Musím to odmietnuť,‘ ‚povedal Stark pre CNN Business.

„S čistým svedomím už nemôžem akceptovať financovanie od spoločnosti, ktorá takto zaobchádza so svojimi zamestnancami,“ uviedol pre CNN Business Vijay Chidambaram, odborný asistent na texaskej univerzite v Austine, ktorý študuje úložné systémy. Spoločnosť Chidambaram predtým získala v roku 2018 od spoločnosti Google 30 000 dolárov na výskumný projekt.

Zapojené peniaze majú pre Google malý význam. Ale rozširujúci sa dopad napätia na Googli s jeho tímom etickej AI teraz predstavuje hrozbu pre spoločnosť. Reputácia a postavenie v komunite umelej inteligencie. To je veľmi dôležité, pretože Google bojuje za talenty – či už ako zamestnanci spoločnosti, alebo ako mená v akademickej komunite.

„Myslím si, že ide o širšie rozšírenie, ako si spoločnosť uvedomuje,“ uviedol Stark.

Ústup v solidarite

Napriek svojej počiatočnej náklonnosti Stark cenu Google okamžite neodmietol. Hovoril so svojimi kolegami o tom, čo zamýšľa urobiť – „ľudia podporovali každé moje rozhodnutie,“ povedal – predtým, ako nasledujúci piatok poslal svoju odpoveď spoločnosti Google. Poďakoval spoločnosti za „hlasovanie o dôvere“ v jeho výskume, ale napísal, že „odmieta toto ocenenie solidárne s Dr. Gebrom, Mitchellom a ich kolegami a so všetkými, ktorí si prešli podobnými situáciami,“ uviedli e-maily. spoločnosťou CNN Business.

„Teším sa na ďalšiu spoluprácu so spoločnosťou Google Research, pretože organizácia a jej vodcovia si v tomto prípade premysleli svoje rozhodnutie, napravili spôsobenú škodu a zaviazali sa, slovom aj činom, k propagácii dôležitého výskumu a produktov, ktoré podporovať spravodlivosť a spravodlivosť, “napísal Stark.

Gebrow povedala, že oceňuje Starkove správanie.

„Je to obrovský problém, ak niekto odmietne sponzorovať spoločnosť Google,“ povedala pre CNN Business. „Najmä niekto na začiatku svojej kariéry.“

Hovorca spoločnosti Google uviedol, že za posledných 15 rokov spoločnosť udelila viac ako 6500 akademických a výskumných štipendií osobám mimo spoločnosti Google. Stark je podľa hovorcu prvou osobou, ktorá odmietla.

„Bolo to skutočné zlyhanie v spôsobe, akým s nimi bolo zaobchádzané.“

Starkove rozhodnutie je však iba ďalším prejavom solidarity s Gibrom a Mitchellom.

Po ceste to bola skutočná porucha [Gebru and Mitchell] Boli liečení. Zatiaľ sa im nikto neospravedlnil, “povedala v nedávnom rozhovore pre CNN Business,„ nechcem komunikovať so spoločnosťami, ktoré sa takto správajú k popredným výskumníkom. „

Snahy spoločnosti Google posúvať hranice umelej inteligencie

Google si uvedomuje, že jeho reputácia výskumnej inštitúcie bola v posledných mesiacoch poškodená, a spoločnosť uviedla, že má v úmysle jej opravu. Na nedávnom stretnutí radnice spoločnosti Google, o ktorom ako prvé informovala agentúra Reuters a spoločnosť CNN Business sa tiež vyjadrila, spoločnosť načrtla zmeny, ktoré robí vo svojich interných postupoch vyhľadávania a publikovania.

„Myslím si, že cestou k obnoveniu dôvery je pokračovať vo vydávaní najnovšej práce v mnohých a mnohých oblastiach, vrátane posúvania hraníc v témach týkajúcich sa zodpovednej umelej inteligencie a šírenia vecí, ktoré výskumnú komunitu veľmi zaujímajú, a myslím si, že je to jedna z najlepších spôsoby, ako byť aj naďalej lídrom v tejto oblasti. Prieskum, “uviedol Jeff Dean, vedúci umelej inteligencie spoločnosti Google. Na otázku zamestnanca o externých výskumníkoch reagoval slovami, že budú čítať články od spoločnosti Google „s väčším podozrením už teraz“.

Gebru, podobne ako FAccT, dúfa, že ďalšie konferencie prehodnotia jej vzťahy s výskumnými laboratóriami technologických spoločností. Historicky sa urobilo veľa práce pri vývoji a štúdiu AI na akademickej pôde. Ale ako spoločnosti objavujú čoraz viac komerčných využití technológií, hranice medzi akademickým svetom a spoločnosťami sa stierajú. Google je len jednou z mnohých technologických spoločností s významným vplyvom na akademické konferencie, ktorá publikuje množstvo vedeckých prác. Jej zamestnanci sedia v konferenčných doskách a každý rok sponzorujú početné konferencie, niekedy v hodnote desiatok tisíc dolárov.

Napríklad spoločnosť Google a niektoré dcérske spoločnosti jej materskej spoločnosti Alphabet sú uvedení ako sponzori „Platinum“ a 10 000 dolárov „Gold“ na Medzinárodnej konferencii o strojovom učení alebo ICML a na konferencii NeurIPS v roku 2020. Obidve hlavné konferencie o AI. Niektorí zamestnanci spoločnosti sú členmi ich organizačných výborov.

Prezident ICML John Langford uviedol, že konferencia je „v súčasnosti sponzorovaná“ spoločnosťou Google pre jej konferenciu do roku 2021, ktorá je naplánovaná na júl.

A dodal: „V súčasnosti sa veľa diskutuje o tom, ako ICML ako konferencia podporuje dobrú kultúru a postupy strojového učenia s budúcou sponzorskou politikou ako súčasť tejto diskusie.“

Mary Ellen Berry, výkonná riaditeľka spoločnosti NeurIPS, uviedla, že konferencia ešte nezačala svoju každoročnú výzvu na sponzorstvo, ale tieto žiadosti „budú vyhodnotené podľa súboru výberových pokynov, ktoré tento rok vypracujú vedúci starostlivosti“; NeurIPS je naplánovaný na december.

Pre Starka a ďalších v akademickej vedeckej komunite sa už zmenili ich kritériá prijímania peňazí od spoločnosti Google.

„Dodatočné peniaze na výskum by boli skvelé,“ uviedol Stark. „Ale bolo to niečo, čo som cítil, že nemôžem vystáť.“