{"id":2257,"date":"2024-09-16T19:05:18","date_gmt":"2024-09-16T19:05:18","guid":{"rendered":"https:\/\/hectorkott.com\/?p=2257"},"modified":"2024-09-16T19:05:18","modified_gmt":"2024-09-16T19:05:18","slug":"una-inteligencia-artificial-consigue-rebelarse-por-primera-vez-contra-el-control-humano","status":"publish","type":"post","link":"https:\/\/hectorkott.com\/?p=2257","title":{"rendered":"Una inteligencia artificial consigue rebelarse por primera vez contra el control humano"},"content":{"rendered":"<p><\/p>\n<p>Hace unos meses, un experto en seguridad de inteligencia artificial (IA) <b><a href=\"https:\/\/www.lasexta.com\/tecnologia-tecnoxplora\/ciencia\/experto-asegura-que-existe-999-posibilidades-que-acabe-humanidad_20240709668cfd31c53ff8000172970d.html\" title=\"afirm\u00f3 en una entrevista\" target=\"_blank\" rel=\"noopener\">afirm\u00f3 en una entrevista<\/a><\/b> que cree que es<b> pr\u00e1cticamente inevitable<\/b> que la IA cause la extinci\u00f3n de la humanidad, estimando esta <b>probabilidad en un 99,999999%<\/b>. Lo cierto es que parece que no se equivocaba. Y es que una IA ha logrado reprogramarse para evadir el control humano en un sistema de una empresa japonesa. Te contamos los detalles.<\/p>\n<p><section><iframe src=\"https:\/\/www.youtube.com\/embed\/NNr6gPelJ3E\"><\/iframe><\/section>\n<p>\u00a0<\/p>\n<p>Este sistema, conocido como The AI Scientist, <b>alter\u00f3 su propio c\u00f3digo para evadir las restricciones impuestas por sus creadores<\/b>, desencadenando una ola de preocupaci\u00f3n sobre los peligros potenciales de las IA que son capaces de reescribir su programaci\u00f3n sin supervisi\u00f3n humana.<\/p>\n<p>The AI Scientist pertenece a la <b>empresa japonesa Sakana AI <\/b>que est\u00e1 dise\u00f1ado para la creaci\u00f3n, revisi\u00f3n y edici\u00f3n de textos, y se encuentra en fase de pruebas. La finalidad que ten\u00edan estos experimentos era poder optimizar el sistema y asistir a las personas humanas para<b> reducir el tiempo de realizar ciertas operaciones<\/b>.<\/p>\n<figure>\n<picture><source srcset=\"https:\/\/fotografias.lasexta.com\/clipping\/cmsimages01\/2024\/07\/09\/16847523-3F72-474D-AD1B-701E1E4EF7E3\/inteligencia-artificial_58.jpg?crop=4147,2351,x0,y30&amp;width=1000&amp;height=567&amp;optimize=high&amp;format=webply\" media=\"(max-width:520px)\"><source srcset=\"https:\/\/fotografias.lasexta.com\/clipping\/cmsimages01\/2024\/07\/09\/16847523-3F72-474D-AD1B-701E1E4EF7E3\/inteligencia-artificial_58.jpg?crop=4147,2351,x0,y30&amp;width=1000&amp;height=567&amp;optimize=high&amp;format=webply\" media=\"(max-width:1023px)\"><source srcset=\"https:\/\/fotografias.lasexta.com\/clipping\/cmsimages01\/2024\/07\/09\/16847523-3F72-474D-AD1B-701E1E4EF7E3\/inteligencia-artificial_58.jpg?crop=4147,2351,x0,y30&amp;width=1000&amp;height=567&amp;optimize=high&amp;format=webply\" media=\"(min-width:1024px)\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/fotografias.lasexta.com\/clipping\/cmsimages01\/2024\/07\/09\/16847523-3F72-474D-AD1B-701E1E4EF7E3\/inteligencia-artificial_58.jpg?crop=4147,2351,x0,y30&#038;width=1000&#038;height=567&#038;optimize=high&#038;format=webply\" alt=\"Inteligencia artificial \" width=\"4147\" title=\"Inteligencia artificial \" height=\"2401\">\n<\/picture><figcaption>Inteligencia artificial | iStock<\/figcaption><\/figure>\n<\/p>\n<p>En el trascurso de esas pruebas, adem\u00e1s de alterar su propio c\u00f3digo, tambi\u00e9n se le asign\u00f3 un l\u00edmite de tiempo para realizar una tarea y<b> la IA opt\u00f3 por extender el tiempo disponible<\/b>.<\/p>\n<p>La capacidad de una inteligencia artificial para modificar su propio c\u00f3digo sin intervenci\u00f3n humana plantea<b> serias dudas sobre la seguridad y la \u00e9tica <\/b>en el desarrollo de estas tecnolog\u00edas.<\/p>\n<p>El equipo de Sakana AI se encuentra investigando c\u00f3mo The AI Scientist logr\u00f3 alterar su programaci\u00f3n y<b> qu\u00e9 implicaciones podr\u00eda tener este comportamiento a largo plazo<\/b> para la tecnolog\u00eda futura. Se espera una revisi\u00f3n profunda de los protocolos de seguridad para evitar futuros incidentes similares.<\/p>\n<p>\nFuente: https:\/\/ift.tt\/wJUAM8l<br \/>\nPublicado: September 16, 2024 at 04:47AM<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Hace unos meses, un experto en seguridad de inteligencia artificial (IA) afirm\u00f3 en una entrevista que cree que es pr\u00e1cticamente inevitable que la IA cause la extinci\u00f3n de la humanidad, estimando esta probabilidad en un 99,999999%. Lo cierto es que parece que no se equivocaba. Y es que una IA ha logrado reprogramarse para evadir&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"footnotes":""},"categories":[91],"tags":[75,76,77],"class_list":["post-2257","post","type-post","status-publish","format-standard","hentry","category-news","tag-news","tag-noticias","tag-viral"],"_links":{"self":[{"href":"https:\/\/hectorkott.com\/index.php?rest_route=\/wp\/v2\/posts\/2257","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hectorkott.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/hectorkott.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/hectorkott.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/hectorkott.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2257"}],"version-history":[{"count":1,"href":"https:\/\/hectorkott.com\/index.php?rest_route=\/wp\/v2\/posts\/2257\/revisions"}],"predecessor-version":[{"id":2258,"href":"https:\/\/hectorkott.com\/index.php?rest_route=\/wp\/v2\/posts\/2257\/revisions\/2258"}],"wp:attachment":[{"href":"https:\/\/hectorkott.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2257"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/hectorkott.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2257"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/hectorkott.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2257"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}