Един от звездните изследователи на AI на Google току-що остана в облак от противоречия. Какво стана?

Изследователят на Star AI Тимнит Гебру има нов документ, който подчертава проблемите с моделите на AI на Google. Компанията принуди ли я да напусне заради това?

САН ФРАНЦИСКО, Калифорния – 07 СЕПТЕМВРИ: Изследователят на Google AI Тимнит Гебру говори на сцената по време на Ден 3 на TechCrunch Disrupt SF 2018 в Moscone Center на 7 септември 2018 г. в Сан Франциско, Калифорния. (Снимка от Кимбърли Уайт/Гети изображения за TechCrunch)

Кредит: Кимбърли Уайт / Стрингър (Гети изображения)

Google не може да излезе от пътя си.



Вече се сблъсква с антитръстови случай (и труд спор ), гигантът за търсене е въвлечен в противоречие с Тимнит Гебру, звезден изследовател на AI, който беше принуден да напусне компанията миналата седмица.

Шампион на разнообразието в технологиите, особено предишните изследвания на Gebru открити пристрастия към пола и типа кожа в технологията за лицево разпознаване.

Gebru отбеляза проблеми с големите езикови модели на Google

Според MIT Technology Review , тези модели – AI, обучени на зашеметяващи количества текстови данни – са „ключови за бизнеса на Google“.

Ето някои от последните открития на Gebru:

  • Екологични и финансови разходи: Големите AI продукти изразходват много енергия. Един от езиковите модели в основата на търсенето създава толкова CO2, колкото двупосочен полет между Ню Йорк и СФ.
  • Пристрастия в големи набори от данни: Езиковите модели са изкривени към държави и езици с голямо присъствие в интернет (напр. английски). Други културни норми може да не бъдат отразени в технологията, която използва тези модели.
  • Трудно за одит: Наборите от данни са толкова големи, че е много трудно дори да се види как могат да бъдат предубедени (или как да ги коригираме).

Искаше ли Google да скрие тези открития?

Потенциално.

Много специалисти по етиката на изкуствения интелект смятат, че Google „я е изтласкал поради неудобните истини, които тя разкрива за основна линия на своите изследвания“, пише MIT Technology Review .

А писмо в подкрепа на Gebru е подписан от 1,5 000+ служители на Google и 2,1 000+ академици в областта на ИИ.

( Прочетете още: Техническият писател Кейси Нютън сподели обмен на имейли между Гебру и нейния шеф Джеф Дийн, което доведе до нейното напускане.)