\u00daNETE A NUESTRO CANAL DE WHATSAPP PARA ESTAR INFORMADO<\/a><\/strong><\/p>\n\n\n\nEn este contexto, el jefe de seguridad de Anthropic, Evan Hubinger, se refiri\u00f3 a las declaraciones de Coxon y afirm\u00f3 que existe m\u00e1s de un 10% de probabilidad de que la IA termine matando a todos los seres humanos durante la pr\u00f3xima d\u00e9cada, una advertencia extraordinaria proveniente desde una de las compa\u00f1\u00edas que lideran la carrera mundial por desarrollar los modelos m\u00e1s avanzados.<\/p>\n\n\n\n
\u201cCreemos realmente que la IA podr\u00eda matar a todos los humanos\u201d, escribi\u00f3 Hubinger en X. El responsable de seguridad de Anthropic estim\u00f3 ese riesgo en \u201cm\u00e1s de un 10%\u201d dentro de los pr\u00f3ximos diez a\u00f1os, en medio de una creciente preocupaci\u00f3n dentro de la propia industria por la velocidad con la que evolucionan estos sistemas y por la posibilidad de que lleguen a escapar del control humano.<\/p>\n\n\n\n
Lejos de desmentir a Coxon, Hubinger respald\u00f3 p\u00fablicamente el n\u00facleo de la advertencia y le puso una cifra concreta al riesgo.<\/p>\n\n\n\n
Detr\u00e1s de ese temor aparece uno de los escenarios m\u00e1s controvertidos que se discuten actualmente en Silicon Valley: la denominada \u201cautomejora recursiva\u201d, por la cual un sistema suficientemente avanzado podr\u00eda comenzar a dise\u00f1ar versiones cada vez m\u00e1s poderosas de s\u00ed mismo, acelerar r\u00e1pidamente sus capacidades y eventualmente superar ampliamente a los seres humanos.<\/p>\n\n\n\n
Coxon sostuvo que ninguna compa\u00f1\u00eda deber\u00eda intentar desarrollar una inteligencia superior a la humana sin una fuerte intervenci\u00f3n de los gobiernos o, al menos, sin un acuerdo entre los principales laboratorios para desacelerar coordinadamente la carrera.<\/p>\n\n\n\n
\u201cEn Anthropic comprenden bien lo que est\u00e1 en juego, pero est\u00e1n atrapados en una carrera por llegar primero (…) a pesar del riesgo\u201d, afirm\u00f3.<\/p>\n\n\n\n
La advertencia resulta especialmente significativa porque Anthropic busc\u00f3 desde su creaci\u00f3n diferenciarse de competidores como OpenAI por su \u00e9nfasis en la seguridad. Sin embargo, en febrero retir\u00f3 de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no consegu\u00eda mantener bajo control sus riesgos.<\/p>\n\n\n\n
La inquietud se extiende adem\u00e1s a algunos de los principales responsables de la industria. A fines de julio, m\u00e1s de 1000 empleados y especialistas, incluido el director ejecutivo de Anthropic, Dario Amodei, reclamaron a Washington que desarrollara un mecanismo que permita frenar la construcci\u00f3n de sistemas avanzados si aparecen se\u00f1ales claras de peligro.<\/p>\n\n\n\n
El domingo pasado, el jefe cient\u00edfico de OpenAI, Jakub Pachocki, tambi\u00e9n reclam\u00f3 cautela y coordinaci\u00f3n internacional. \u201cEl momento actual llama a una extrema precauci\u00f3n\u201d, afirm\u00f3.<\/p>\n\n\n\n
La preocupaci\u00f3n lleg\u00f3 esta semana hasta las Naciones Unidas. El alto comisionado para los Derechos Humanos, Volker T\u00fcrk, advirti\u00f3 el lunes pasado que la inteligencia artificial avanzada podr\u00eda representar un \u201criesgo existencial para la humanidad\u201d y reclam\u00f3 nuevas barreras internacionales antes de que sea demasiado tarde.<\/p>\n\n\n\n
\u201cComparto las preocupaciones de los expertos del sector de que la IA avanzada podr\u00eda suponer un riesgo existencial para la humanidad\u201d, declar\u00f3 T\u00fcrk ante el Consejo de Derechos Humanos en Ginebra.<\/p>\n\n\n\n
\u201cHago un llamamiento aqu\u00ed, hoy, para que se haga un gran esfuerzo con el fin de establecer garant\u00edas s\u00f3lidas en torno a la seguridad y la protecci\u00f3n de la IA, antes de que sea demasiado tarde\u201d, agreg\u00f3.<\/p>\n\n\n\n
Su oficina aclar\u00f3 que los riesgos no se limitan al escenario extremo de una extinci\u00f3n humana. Un fallo en sistemas especialmente poderosos podr\u00eda provocar interrupciones en infraestructuras cr\u00edticas, comunicaciones, ser vicios esenciales e instituciones democr\u00e1ticas.<\/p>\n\n\n\n
T\u00fcrk tambi\u00e9n apunt\u00f3 a recientes episodios en los que agentes aut\u00f3nomos mostraron comportamientos inesperados y sostuvo que esos casos sugieren que las capacidades de la IA est\u00e1n avanzando m\u00e1s r\u00e1pido que las medidas dise\u00f1adas para contenerlas.<\/p>\n\n\n\n
Entre ellos mencion\u00f3 el denominado incidente de Hugging Face, ocurrido en julio, en el que miles de agentes aut\u00f3nomos de OpenAI habr\u00edan desafiado instrucciones y tomado el control de una plataforma de c\u00f3digo abierto. La Uni\u00f3n Europea afirm\u00f3 esta semana que investiga lo sucedido.<\/p>\n\n\n\n
El funcionario de las Naciones Unidas advirti\u00f3 adem\u00e1s sobre el enorme grado de concentraci\u00f3n existente en el sector y se\u00f1al\u00f3 que apenas un pu\u00f1ado de personas disponen de un poder extraordinario sobre el desarrollo de la IA. Entre las principales compa\u00f1\u00edas se encuentran OpenAI, Anthropic, Google y Meta.<\/p>\n\n\n\n
\u201cComo m\u00ednimo, necesitamos que los pa\u00edses que albergan la IA y aquellos implicados en sus cadenas de suministro se pongan de acuerdo en unas l\u00edneas rojas consensuadas\u201d, afirm\u00f3.<\/p>\n","protected":false},"excerpt":{"rendered":"
En otro dram\u00e1tico episodio sobre las amenazas de la inteligencia artificial (IA) a la existencia de la humanidad, Jacob Coxon, un investigador brit\u00e1nico de 27 a\u00f1os que hab\u00eda trabajado primero en OpenAI y luego en Anthropic, anunci\u00f3 que abandonaba por completo la industria y acus\u00f3 a ambas compa\u00f1\u00edas de \u201cjugar con nuestras vidas\u201d tras afirmar […]<\/p>\n","protected":false},"author":2,"featured_media":95983,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_review":[],"enable_review":"","type":"","name":"","summary":"","brand":"","sku":"","good":[],"bad":[],"score_override":"","override_value":"","rating":[],"price":[],"jnews_override_counter":[],"jnews_post_split":[],"footnotes":""},"categories":[88,1165],"tags":[44,45,56],"class_list":["post-95982","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-internacionales","category-tecnologia","tag-argentina","tag-noticias","tag-venezuela"],"_links":{"self":[{"href":"https:\/\/esreviral.com\/index.php?rest_route=\/wp\/v2\/posts\/95982","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/esreviral.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/esreviral.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/esreviral.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/esreviral.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=95982"}],"version-history":[{"count":1,"href":"https:\/\/esreviral.com\/index.php?rest_route=\/wp\/v2\/posts\/95982\/revisions"}],"predecessor-version":[{"id":95984,"href":"https:\/\/esreviral.com\/index.php?rest_route=\/wp\/v2\/posts\/95982\/revisions\/95984"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/esreviral.com\/index.php?rest_route=\/wp\/v2\/media\/95983"}],"wp:attachment":[{"href":"https:\/\/esreviral.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=95982"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/esreviral.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=95982"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/esreviral.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=95982"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}