﻿{"id":20304,"date":"2025-08-26T14:05:34","date_gmt":"2025-08-26T20:05:34","guid":{"rendered":"https:\/\/www.uv.mx\/dgti\/?p=20304"},"modified":"2025-08-26T14:07:31","modified_gmt":"2025-08-26T20:07:31","slug":"la-inteligencia-artificial-riesgo-y-proteccion-en-ciberseguridad","status":"publish","type":"post","link":"https:\/\/www.uv.mx\/dgti\/notasdeti-dgti\/la-inteligencia-artificial-riesgo-y-proteccion-en-ciberseguridad\/","title":{"rendered":"La inteligencia artificial: riesgo y protecci\u00f3n en ciberseguridad"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" class=\"alignright size-full wp-image-20305\" src=\"https:\/\/www.uv.mx\/dgti\/files\/2025\/08\/Pleca-Nota-Septiembre-2025.png\" alt=\"\" width=\"1920\" height=\"160\" srcset=\"https:\/\/www.uv.mx\/dgti\/files\/2025\/08\/Pleca-Nota-Septiembre-2025.png 1920w, https:\/\/www.uv.mx\/dgti\/files\/2025\/08\/Pleca-Nota-Septiembre-2025-300x25.png 300w, https:\/\/www.uv.mx\/dgti\/files\/2025\/08\/Pleca-Nota-Septiembre-2025-1024x85.png 1024w, https:\/\/www.uv.mx\/dgti\/files\/2025\/08\/Pleca-Nota-Septiembre-2025-768x64.png 768w, https:\/\/www.uv.mx\/dgti\/files\/2025\/08\/Pleca-Nota-Septiembre-2025-1536x128.png 1536w\" sizes=\"auto, (max-width: 1920px) 100vw, 1920px\" \/><\/p>\n<p>&nbsp;<\/p>\n<p>Todos quedamos fascinados cuando vemos el potencial que tiene la IA, desde crear animaciones, generar y analizar c\u00f3digo, hasta obtener respuestas a toda clase de preguntas, gracias a los avances que se han tenido en el campo de la investigaci\u00f3n y las tendencias de las grandes empresas por su integraci\u00f3n tanto en dispositivos m\u00f3viles, como en equipos de c\u00f3mputo. Uno de los buscadores m\u00e1s usados en el mundo proporciona la siguiente definici\u00f3n de la IA:<\/p>\n<p><em>\u201cLa inteligencia artificial es un campo de la ciencia relacionado con la creaci\u00f3n de computadoras y m\u00e1quinas que pueden razonar, aprender y actuar de una manera que normalmente requerir\u00eda inteligencia humana o que involucra datos cuya escala excede lo que los humanos pueden analizar\u201d<sup>1<\/sup>.<\/em><\/p>\n<p>Esto nos permite tener m\u00e1s claro el desarrollo continuo y las capacidades que tiene.<\/p>\n<p><strong>Contexto y panorama actual de la ciberseguridad y adopci\u00f3n de la IA <\/strong><\/p>\n<p>Los inicios de la IA se dan despu\u00e9s de la Segunda Guerra Mundial, y para su desarrollo a lo largo de la historia de la humanidad algunas disciplinas han contribuido con ideas, entre estas: Filosof\u00eda, Matem\u00e1ticas, Econom\u00eda, Neurociencia, Psicolog\u00eda, Ling\u00fc\u00edstica, por mencionar algunas. No podemos olvidar que, en la historia, Alan Turing sugiri\u00f3 una prueba en 1950 basada en la incapacidad de diferenciar entre entidades inteligentes y seres humanos, es decir, evitaba la interacci\u00f3n f\u00edsica entre un evaluador y una m\u00e1quina, a lo cual se le conoci\u00f3 como \u201cPrueba de Turing\u201d es de reconocer que esta prueba se conserva vigente despu\u00e9s de 70 a\u00f1os y que dio pie a una de las formas para evaluar sistemas.<\/p>\n<p>Se puede decir que la IA como ciencia es una de las m\u00e1s recientes, con el crecimiento de la tecnolog\u00eda y los modelos de entrenamiento, hoy d\u00eda su implementaci\u00f3n abarca un amplio campo, entre las m\u00e1s destacables la rob\u00f3tica y la computaci\u00f3n.<\/p>\n<p>Esta \u00faltima abri\u00f3 una disciplina que se ha enfocado en proteger sistemas inform\u00e1ticos, a saber, la ciberseguridad, que ha venido adoptando el uso de la IA en herramientas que permiten predecir y detectar amenazas que pudieran comprometer, ya sea un sistema en concreto o bien una organizaci\u00f3n entera.<\/p>\n<p><strong>La IA como reto para defensores de ciberseguridad.<\/strong><\/p>\n<p>Uno de los retos que puede suponer a la ciberseguridad es tratar de entender que nuevas t\u00e9cnicas utilizar\u00e1n aquellas personas que tienen malas intenciones a fin de perjudicar a algo o a alguien, vali\u00e9ndose de herramientas que incorporan la IA para observar, evaluar, probar, y llevar a cabo su prop\u00f3sito, estas t\u00e9cnicas se han venido puliendo con la adopci\u00f3n de la inteligencia artificial.<\/p>\n<p>Pensemos como la IA en su mal uso puede aplicarse, por ejemplo:<\/p>\n<ul>\n<li><strong>En la ingenier\u00eda social<\/strong>, en alg\u00fan momento podemos recibir un correo electr\u00f3nico o un mensaje de texto, revisar lo que contiene y tener la seguridad de que es aut\u00e9ntico porque no contiene errores gramaticales, posee un estilo personalizado y esto nos genera confianza de que es leg\u00edtimo, pero en realidad podr\u00edamos estar recibiendo un ataque de phishing. O bien pudi\u00e9ramos recibir un audio o video de alguien conocido y estar seguros de su autenticidad, pero en realidad se trata de un Deepfake, es decir, han usado la voz y la apariencia de alguien que conocemos con el fin de que caigamos en un enga\u00f1o,<\/li>\n<li><strong>En la generaci\u00f3n de malware evolutivo<\/strong>, creando c\u00f3digo malicioso con capacidades de modificar su estructura con la finalidad de evadir controles de seguridad sin que los sistemas tradicionales de seguridad lo detecten.<\/li>\n<li><strong>En la automatizaci\u00f3n de ataques<\/strong>, identificando vulnerabilidades e infiltr\u00e1ndose en sistemas a la velocidad que un atacante humano no podr\u00eda realizar.<\/li>\n<\/ul>\n<p><strong>La IA como aliado para defensores de ciberseguridad<\/strong><\/p>\n<p>Aun cuando la IA no est\u00e1 exenta de los desaf\u00edos que puede representar, tambi\u00e9n proporciona beneficios en ciberseguridad, pues al disponer de herramientas con capacidades en an\u00e1lisis de datos, soluci\u00f3n de problemas, mecanismos de prevenci\u00f3n, mitigaci\u00f3n y la capacidad de analizar comportamientos inusuales permite a los equipos responsables de ciberseguridad automatizar tareas y por ende reducir tiempos de trabajo, responder de manera inmediata a incidentes de seguridad, \u00a0correlacionar datos eficazmente e identificar y gestionar brechas de seguridad en sistemas.<\/p>\n<p><strong>Retos y consideraciones \u00e9ticas. <\/strong><\/p>\n<p>Mantenerse al d\u00eda con las nuevas tendencias y t\u00e9cnicas avanzadas en ciberseguridad es un desaf\u00edo constante. La emergencia de formas de intrusi\u00f3n, el an\u00e1lisis predictivo y la aparici\u00f3n continua de nuevas formas de ataque impulsadas por la inteligencia artificial representan retos significativos para los equipos de seguridad.<\/p>\n<p>Aunque estas \u00e1reas han ido adoptando gradualmente la IA en sus procesos, su integraci\u00f3n presenta desaf\u00edos. La eficaz integraci\u00f3n con las herramientas existentes es un obst\u00e1culo clave, as\u00ed como asegurar el cumplimiento de las normativas y requisitos legales.<\/p>\n<p>En el \u00e1mbito acad\u00e9mico la IA est\u00e1 transformando la educaci\u00f3n, no solamente en rol de la ense\u00f1anza \u2013 aprendizaje, sino en funciones administrativas y operativas, lo que conlleva a desaf\u00edos que tienen que ver con la seguridad, privacidad y \u00e9tica en el uso de los datos.<\/p>\n<p>Por lo anterior y desde el punto de vista \u00e9tico, estos desaf\u00edos nos llevan a plantearnos las siguientes preguntas: \u00bfdebemos ver a la inteligencia artificial, como una ciencia que en alg\u00fan momento puedan sustituir a la capacidad humana? \u00bfQu\u00e9 entidades se encargar\u00e1n de regular el uso de la IA? \u00bfC\u00f3mo saber que la informaci\u00f3n proporcionada no se usar\u00e1 para entrenar a la IA? \u00bfQu\u00e9 garant\u00eda tenemos de que la informaci\u00f3n que proporcionamos a la IA no estar\u00e1 al alcance de alguien m\u00e1s o que ser\u00e1 usada con fines lucrativos?<\/p>\n<p><strong>Reflexi\u00f3n<\/strong><\/p>\n<p>La inteligencia artificial no debe verse como una amenaza, m\u00e1s bien, como la oportunidad para mejorar procesos, sin embargo, su adopci\u00f3n al igual que otras tecnolog\u00edas debe utilizarse con \u00e9tica, comprendiendo que su uso no debe ser para perjudicar sino para aprovechar sus recursos de manera responsable.<\/p>\n<ol>\n<li>\u00bfQu\u00e9 es la inteligencia artificial o IA? (s\/f). Google Cloud. Recuperado el 11 de agosto de 2025, de <a href=\"https:\/\/cloud.google.com\/learn\/what-is-artificial-intelligence?hl=es-419\">https:\/\/cloud.google.com\/learn\/what-is-artificial-intelligence?hl=es-419<\/a><\/li>\n<li>Russell, S. J., &amp; Norvig, P. (2004). Inteligencia artificial: un enfoque moderno. PRENTICE HALL.<\/li>\n<\/ol>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>&nbsp; Todos quedamos fascinados cuando vemos el potencial que tiene la IA, desde crear animaciones, generar y analizar c\u00f3digo, hasta obtener respuestas a toda clase de preguntas, gracias a los avances que se han tenido en el campo de la investigaci\u00f3n y las tendencias de las grandes empresas por su integraci\u00f3n tanto en dispositivos m\u00f3viles, [&hellip;]<\/p>\n","protected":false},"author":1577,"featured_media":20306,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"ventana_nueva":"","tipo_url":"","url":"","extracto":"","imagen_halign":"","imagen_valign":"","bg_size":"","text_hide":"","media_url":"","tipo_media":"","video_url":"","video_pos":"","video_youtube":"","footnotes":""},"categories":[104],"tags":[103],"class_list":["post-20304","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-notasdeti-dgti","tag-notasdeti"],"_links":{"self":[{"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/posts\/20304","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/users\/1577"}],"replies":[{"embeddable":true,"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/comments?post=20304"}],"version-history":[{"count":1,"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/posts\/20304\/revisions"}],"predecessor-version":[{"id":20308,"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/posts\/20304\/revisions\/20308"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/media\/20306"}],"wp:attachment":[{"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/media?parent=20304"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/categories?post=20304"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.uv.mx\/dgti\/wp-json\/wp\/v2\/tags?post=20304"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}