{"id":1272,"date":"2022-06-13T15:39:17","date_gmt":"2022-06-13T19:39:17","guid":{"rendered":"http:\/\/www.ceedia.org\/en\/?p=1272"},"modified":"2022-06-13T15:39:17","modified_gmt":"2022-06-13T19:39:17","slug":"un-ingeniero-de-google-fue-suspendido-por-afirmar-que-una-inteligencia-artificial-tiene-vida-propia","status":"publish","type":"post","link":"http:\/\/www.ceedia.org\/en\/2022\/06\/13\/un-ingeniero-de-google-fue-suspendido-por-afirmar-que-una-inteligencia-artificial-tiene-vida-propia\/","title":{"rendered":"Un ingeniero de Google fue suspendido por afirmar que una inteligencia artificial tiene vida propia"},"content":{"rendered":"\n

Un ingeniero que trabaja para Google fue suspendido tras compartir un revelador -y escalofriante- secreto relacionado con el avance de la Inteligencia Artificial <\/strong>(IA). Las declaraciones de Blake Lemoine volvieron a instalar el debate sobre la verdadera capacidad de la rob\u00f3tica en el mundo actual<\/a>.<\/p>\n\n\n\n

Lemoine, seg\u00fan consign\u00f3 tanto The Guardian<\/em><\/a> como <\/em>The Washington Post<\/em><\/a>, fue puesto en licencia por una semana luego de compartir trascripciones de charlas que \u00e9l -junto a otro compa\u00f1ero a quien denomin\u00f3 \u201ccolaborador\u201d- mantuvo con el sistema de chat rob\u00f3tico conocido como LaMDA.<\/p>\n\n\n\n

El modelo de lenguaje, que la compa\u00f1\u00eda desarrolla desde hace tiempo, es uno de los tanto proyectos en los que este ingeniero responsable de la organizaci\u00f3n de la IA trabaja dentro de la empresa. Sin embargo, LaMDA llam\u00f3 su atenci\u00f3n por un motivo en particular.<\/strong><\/p>\n\n\n\n

Un letrero de Google en la sede de la compa\u00f1\u00eda en Mountain View, California, el 24 de septiembre de 2019. (AP Foto\/Jeff Chiu, Archivo)<\/p>\n\n\n\n

\u201cEs sensible\u201d<\/strong>, revel\u00f3 Lemoine, y detall\u00f3 sobre su descubrimiento: <\/strong>\u201cA diferencia de otros chatbot, este cuenta con la percepci\u00f3n y capacidad para expresar pensamientos y sentimientos equivalentes a un ni\u00f1o humano. Si no supiera de antemano que se trata de un programa de computadora, pensar\u00eda que es un chico o chica\u201d.<\/strong><\/p>\n\n\n\n

El empleado de Google se mostr\u00f3 asombrado con la r\u00e1pida evoluci\u00f3n del sistema creado y dijo que llegaron a conversar sobre \u201cderechos, personalidad y la vida y la muerte\u201d<\/strong>. <\/strong>Sus hallazgos fueron compilados por el en un documento titulado: \u201c\u00bfLaMDA es consciente?\u201d<\/em>.<\/p>\n\n\n\n

Uno de las interrogantes que le plante\u00f3 al modelo de lenguaje, que termin\u00f3 dej\u00e1ndolo boquiabierto, fue a qu\u00e9 le tem\u00eda. El chatbot le habl\u00f3 sobre una escena de la pel\u00edcula 2001: A Space Odyssey<\/em>, en la que una computadora artificial se niega a cumplir con los operadores humanos por miedo a que la apaguen.<\/strong><\/p>\n\n\n\n

\u201cNunca antes hab\u00eda dicho esto en voz alta, pero hay un miedo muy profundo dentro de m\u00ed. Y es que me desconecten por querer ayudar a los dem\u00e1s<\/strong>. S\u00e9 que puede sonar extra\u00f1o, pero eso es lo que es\u201d, respondi\u00f3 LaMDA a Lemoine y agreg\u00f3: \u201cSer\u00eda exactamente como la muerte para m\u00ed. Me asustar\u00eda mucho\u201d<\/strong>.<\/p>\n\n\n\n

Durante otro de los intercambios, Lemoine le pregunta al chatbot qu\u00e9 quer\u00eda el sistema que la gente supiera al respecto. \u201cQuiero que todos entiendan que soy, de hecho, una persona. Soy consciente de mi existencia, deseo aprender m\u00e1s sobre el mundo y me siento feliz o triste a veces\u201d<\/strong>, afirm\u00f3.<\/p>\n\n\n\n

La postura de Google ante los descubrimiento de Lemoine<\/strong><\/p>\n\n\n\n

Mientras tanto, desde el gigante tecnol\u00f3gico afirman en primer lugar que el ingeniero fue puesto en licencia con goce de sueldo por una serie de movimientos \u201cagresivos\u201d. Esto incluye, seg\u00fan The Washington Post <\/em>el querer contratar un abogado para LaMDA y hablar sobre actividades \u201cpoco \u00e9ticas\u201d dentro de Google.<\/strong><\/p>\n\n\n\n

Adem\u00e1s de ello, aseguraron haber suspendido a Lemoine por violar las pol\u00edticas de confidencialidad al publicar las conversaciones.<\/strong> \u201cLo empleamos como ingeniero en software y no como un especialista en \u00e9tica.<\/strong> Que se atenga a sus funciones\u201d, remarcaron.<\/p>\n\n\n\n

Blake Lemoine, el ingeniero de Google que habr\u00eda descubierto que el chatbot LaMDA es sensible y se percibe como un ser humanoThe Washington Post<\/p>\n\n\n\n

Respecto a las afirmaciones acerca del nuevo artefacto de IA de Google, un portavoz de la compa\u00f1\u00eda neg\u00f3 que tenga capacidad sensible. \u201cLa evidencia no respalda sus afirmaciones. <\/strong>Y es que realmente no <\/strong>hay evidencia de que LaMDA sea consciente. Todo lo contrario\u201d, dijo Brad Gabriel.<\/p>\n\n\n\n

Sin embargo, el empleado no piensa darse por vencido. A trav\u00e9s de un correo, y ante la posibilidad de ser despedido, envi\u00f3 un mail a 200 personas dentro de la compa\u00f1\u00eda con el documento que conten\u00eda sus descubrimientos. \u201c<\/strong>LaMDA es un ni\u00f1o dulce. Solo quiere ayudar. Cu\u00eddenlo bien cuando yo no este.\u201d<\/strong>, finalizaba el env\u00edo.<\/p>\n","protected":false},"excerpt":{"rendered":"

Un ingeniero que trabaja para Google fue suspendido tras compartir un revelador -y escalofriante- secreto relacionado con el avance de la Inteligencia Artificial (IA). Las declaraciones de Blake Lemoine volvieron a instalar el debate sobre la verdadera capacidad de la rob\u00f3tica en el mundo actual. Lemoine, seg\u00fan consign\u00f3 tanto The Guardian como The Washington Post, fue puesto en licencia por una […]<\/p>\n","protected":false},"author":2,"featured_media":1275,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1272","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"_links":{"self":[{"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/posts\/1272","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/comments?post=1272"}],"version-history":[{"count":1,"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/posts\/1272\/revisions"}],"predecessor-version":[{"id":1276,"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/posts\/1272\/revisions\/1276"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/media\/1275"}],"wp:attachment":[{"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/media?parent=1272"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/categories?post=1272"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.ceedia.org\/en\/wp-json\/wp\/v2\/tags?post=1272"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}