17 dic. 2020

Polémica en Google por despedir a su codirectora de Ética para la IA

Timnit Gebru afirma que está sufriendo represalias por publicar una investigación en la que criticaba al gigante y por enviar un correo electrónico "incompatible con lo que se espera de un directivo de Google". Como mujer negra, Gebru es una famosa activista por la diversidad en la inteligencia artificial.

La inteligencia artificial (IA) pasa cada vez más desapercibida en nuestra vida cotidiana. Está por todas partes, tanto en las búsquedas web y las redes sociales, como en los asistentes domésticos como Alexa. Pero, ¿qué podemos hacer ante una tecnología tan importante cuando esta está sesgada, aunque sea involuntariamente? Y, ¿qué hacemos si en este campo de investigación tan importante no hay prácticamente ningún investigador negro?

Timnit Gebru aborda estas cuestiones desde el departamento de Imparcialidad, Responsabilidad, Transparencia y Ética en la Inteligencia Artificial de Microsoft, al cual se unió el verano pasado. También cofundó el evento Black in AI (negros en la inteligencia artificial) dentro de la conferencia sobre Información de Sistemas de Procesamiento Neuronal (Neural Information Processing Systems, o NIPS) en 2017 y formó parte de la junta directiva de la primera conferencia de imparcialidad y transparencia en febrero. Gebru ha hablado con MIT Technology Review sobre cómo los prejuicios se infiltran en los sistemas de inteligencia artificial y cómo la diversidad en los equipos de investigación puede contrarrestar este fenómeno.

El 2 de diciembre, la comunidad de investigación de inteligencia artificial (IA) se llevó una triste sorpresa al descubrir que una de las voces líderes del campo Timnit Gebru había sido despedida de su puesto en Google

. Gebru es conocida, entre otras cosas, por ser coautora de un pionero trabajo que reveló la naturaleza discriminatoria del reconocimiento facial, por cofundar el grupo activista Black in AI (negros en inteligencia artificial) y por abogar continuamente por la diversidad en la industria tecnológica.

El entrenamiento de grandes modelos de IA consume mucha energía por el procesamiento computacional. Gebru y los coautores se refieren al artículo de 2019 de la investigadora Emma Strubell y sus colaboradores sobre las emisiones de carbono y los costes económicos de los grandes modelos de lenguaje. Su trabajo mostró que el consumo de energía y la huella de carbono se han disparado desde 2017, ya que los modelos van entrenándose cada vez con más datos.

Aquel día por la noche, Gebru publicó en Twitter que había sido despedida de su puesto como codirectora de Ética de IA de Google: "Aparentemente, la jefa de mi jefe envió un correo electrónico [a] mis subordinados directos diciendo que aceptaba mi dimisión. "Yo no había dimitido".

Una serie de tuits, correos electrónicos filtrados y reportajes en los medios han mostrado que la salida de Gebru fue la culminación de un conflicto sobre otro artículo del que fue coautora. El jefe de IA de Google, Jeff Dean, explicó a sus colegas en un correo electrónico interno (que después ha publicado online) que el artículo "no había cumplido con nuestro estándar de publicación" y que Gebru había dicho que dimitiría a menos que Google cumpliera con varias condiciones que la empresa no estaba dispuesta a cumplir. Gebru tuiteó que había pedido negociar "un último día" en su cargo al volver de las vacaciones. Pero antes de su regreso ya se le había impedido el acceso a su cuenta de correo electrónico corporativo.

El artículo, que se basa en el trabajo de otros investigadores, expone la historia del procesamiento del lenguaje natural (PLN), una descripción general de los cuatro riesgos principales de los grandes modelos de lenguaje y sugerencias para futuras investigaciones. Dado que el conflicto en Google parece estar relacionado con los riesgos, nos hemos centrado en resumir esa parte del estudio.

En una entrevista con Bloomberg el jueves 3 de diciembre, Gebru aseguró que el despido ocurrió después de una extensa discusión con sus superiores por la publicación de un artículo de investigación sobre la ética de la IA. Uno de los tuits de Gebru y un posterior correo electrónico interno del jefe de IA de Google, Jeff Dean, sugieren que el artículo criticaba los costes ambientales y los sesgos incorporados en los grandes modelos de lenguaje.

Continuar leyendo en Technology Review I y II

0 comentarios:

Publicar un comentario

Gracias por dejar un comentario en Segu-Info.

Gracias por comentar!