Ciencia & Ambiente Ciencia & Tecnología

Expertos piden pausar la investigación sobre inteligencia artificial: La humanidad está en riesgo.

Published

2 años ago

miércoles 29 de marzo, 2023

Colectivo de Redacción

En una carta abierta, miles de personalidades reclamaron suspender por al menos seis meses los experimentos gigantes que «ni sus creadores pueden entender, predecir o controlar».

El vertiginoso avance de la Inteligencia Artificial (IA) asusta incluso a sus propios creadores. Este miércoles Elon Musk, uno de los fundadores de OpenAI, y cientos de expertos del mundo firmaron una petición para suspender por al menos seis meses las investigaciones en tecnologías más potentes que ChatGPT 4 por posibles “grandes riesgos para la humanidad”.

La junta de firmas tiene lugar en el sitio del instituto Future Of Life, donde se exige una “pausa a los experimentos gigantes de IA” hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la «dramática perturbación económica y política (especialmente para la democracia) que causará la IA».

El director de OpenAI, Sam Altman, reconoció en otras oportunidades tener «un poco de miedo» de que su creación se utilice para «desinformación a gran escala o ciberataques«. En los últimos días se viralizaron fotos falsas ultrarealistas del supuesto arresto de Donald Trump, que habían sido creadas con esta tecnología.

Pero Altman no es el único que se mostró preocupado. Otros como Musk, dueño de Twitter y fundador de SpaceX y Tesla, o el historiador y pensador israelí Yuval Noah Hariri han expresado sus temores sobre una IA incontrolable que supere a los humanos.

La carta pública expresa una profunda preocupación por el avance de la IA por fuera de los límites que pueden controlar incluso los propios creadores. «En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable«, afirma el documento.

A su vez, se pregunta: «¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes?¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos».

Para los expertos firmantes, “los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.

Además de Musk, Altman y Harari, hay otras importantes personalidades que firmaron la petición, como el cofundador de Apple, Steve Wozniak, miembros del laboratorio de AI DeepMind de Google, el director de Stability AI, Emad Mostaque, así como expertos y académicos estadounidenses de IA e ingenieros ejecutivos de Microsoft, empresa aliada de OpenAI.

La carta completa.

Los sistemas de inteligencia artificial (IA) con inteligencia competitiva humana pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y reconocido por los principales laboratorios de IA. Según los Principios de IA de Asilomar ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debería ser planificada y gestionada con recursos y cuidados correspondientes. Desafortunadamente, este nivel de planificación y gestión no está sucediendo, aunque en los últimos meses los laboratorios de IA han estado encerrados en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable.

Los sistemas de IA contemporáneos están comenzando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Deberíamos automatizar todos los trabajos, incluso los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, inteligencia, obsolescencia y reemplazo? ¿Deberíamos arriesgar la pérdida del control de nuestra civilización? Tales decisiones no deben ser delegadas a líderes tecnológicos no elegidos.

Los sistemas de IA poderosos deben desarrollarse solo cuando estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La declaración reciente de OpenAI sobre la inteligencia artificial general afirma que «en algún momento, puede ser importante obtener una revisión independiente antes de comenzar a capacitar a los sistemas futuros, y para los esfuerzos más avanzados, acordar limitar la tasa de crecimiento del cómputo utilizado para crear nuevos modelos». Estamos de acuerdo. Ese momento es ahora.

Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que detengan inmediatamente durante al menos 6 meses la capacitación de sistemas de IA más poderosos que GPT-4. Esta pausa debe ser pública y verificable e incluir a todos los actores clave. Si no se puede aplicar rápidamente una pausa de este tipo, los gobiernos deben intervenir e instituir un moratorio.

Los laboratorios de IA y los expertos independientes deben usar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos independientes externos. Estos protocolos deben garantizar que los sistemas que los cumplan sean seguros más allá de toda duda razonable. Esto no significa una pausa en el desarrollo de IA en general, simplemente un retroceso en la peligrosa carrera hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes.

La investigación y el desarrollo de la IA deberían centrarse en hacer que los sistemas de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

Al mismo tiempo, los desarrolladores de IA deben trabajar con los responsables políticos para acelerar dramáticamente el desarrollo de sistemas sólidos de gobernanza de la IA. Estos deberían incluir como mínimo: nuevas autoridades regulatorias capaces y dedicadas a la IA; supervisión y seguimiento de sistemas de IA altamente capaces y grandes conjuntos de capacidades computacionales; sistemas de procedencia y marca de agua para ayudar a distinguir lo real de lo sintético y rastrear las fugas de modelos; un ecosistema sólido de auditoría y certificación; responsabilidad por daños causados por la IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente a la democracia) que la IA causará.

La humanidad puede disfrutar de un futuro próspero con la IA. Después de haber logrado crear sistemas de IA poderosos, ahora podemos disfrutar de un «verano de la IA» en el que cosechamos las recompensas, diseñamos estos sistemas para el beneficio claro de todos y damos a la sociedad la oportunidad de adaptarse. La sociedad ha pausado otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de un largo verano de la IA, sin apresurarnos sin preparación hacia un otoño.

/Imagen principal: Archivo/

Internacional Política & Economía MGIMO Ciencia & Tecnología

Oréshnik, el misil de Rusia que cambia las reglas del juego

Published

2 horas ago

viernes 11 de julio, 2025

Colectivo de Redacción

Rusia ha puesto en marcha la producción en serie del misil balístico Oréshnik, un arma hipersónica de alcance intermedio capaz de evadir los sistemas de defensa antimisil. Su primera utilización en combate y su posible despliegue en Bielorrusia marcan un nuevo capítulo en la estrategia militar de Moscú. ¿Qué hace a este misil prácticamente imposible de interceptar?

Foto principal: Sistema de misiles balísticos RS-24 Yars del ejército ruso avanza por la Plaza Roja durante el desfile militar por 80 aniversario de la Victoria sobre la Alemania nazi en la Gran Guerra Patria.

Oréshnik: El Nuevo Misil Balístico Ruso De Alcance Intermedio

El 21 de noviembre de 2024, el presidente ruso Vladímir Putin confirmó por primera vez el uso del misil balístico de alcance intermedio (IRBM) Oréshnik. Según el mandatario, las fuerzas rusas emplearon la versión hipersónica no nuclear del arma para atacar un complejo militar-industrial en Dnipro.

Al día siguiente, Putin aseguró que Rusia disponía de un stock operativo de estos misiles y que su producción en serie ya estaba en marcha. Además, subrayó que Oréshnik no es una modernización de los sistemas soviéticos, sino un desarrollo totalmente nuevo basado en tecnologías modernas.

Las Capacidades De Oréshnik

Según datos oficiales, Oréshnik es actualmente el único misil balístico de alcance intermedio (IRBM) en servicio en las fuerzas armadas rusas. De acuerdo con el portal gubernamental Obyasnayem.rf, el arma tiene un alcance máximo de 5.500 kilómetros y puede alcanzar velocidades de hasta Mach 10, es decir, aproximadamente 12.400 kilómetros por hora o 3 kilómetros por segundo. Su capacidad de carga explosiva llega a 1,5 toneladas y puede equiparse con ojivas nucleares de hasta 900 kilotones, equivalentes a 45 bombas como la de Hiroshima.

El 28 de noviembre, durante la cumbre de la Organización del Tratado de Seguridad Colectiva (OTSC), el presidente Vladímir Putin afirmó que Oréshnik es capaz de alcanzar objetivos altamente protegidos y situados a gran profundidad. Según el mandatario, la temperatura de las ojivas puede alcanzar los 4.000 grados Celsius, lo que, sumado a su capacidad de portar múltiples ojivas autodividibles que viajan a Mach 10, convierte su uso masivo en un poder destructivo comparable al de un ataque nuclear.

Oréshnik solo puede ser derribado en la fase inicial de su trayectoria, lo que explica su lanzamiento desde el cosmódromo de Kapustin Yar, en la provincia de Astracán, trascienden fuentes oficiales. En la fase final, cuando la velocidad de la ojiva alcanza su punto máximo, la interceptación se vuelve prácticamente imposible.

Las estimaciones indican que el tiempo de vuelo de Oréshnik hasta la base de defensa antimisil de EE.UU. en Redzikowo (Polonia) es de 11 minutos. Hasta la base aérea de Ramstein (Alemania) tardaría 15 minutos, y hasta la sede de la OTAN en Bruselas, 17 minutos.

Uso En Combate Y Producción

El 21 de noviembre de 2024, Rusia empleó por primera vez el misil balístico Oréshnik en un ataque contra una fábrica de misiles en Dnipro (antes Dnipropetrovsk). Según fuentes oficiales, la operación fue una represalia por el uso de misiles ATACMS y Storm Shadow por parte de Ucrania en ataques contra instalaciones en las regiones rusas de Briansk y Kursk.

El presidente Vladímir Putin anunció el inicio de la producción en serie de Oréshnik el 22 de noviembre y, días después, el 28 de noviembre, confirmó que Rusia ya disponía de varios misiles listos para su uso.

El 6 de diciembre, Putin declaró que Rusia planea suministrar el sistema de misiles Oréshnik a Bielorrusia, esto probablemente ocurriría durante el segundo semestre de 2025. Según el mandatario, el arma formará parte del complejo de Tropas de Misiles de Designación Estratégica de las Fuerzas Armadas rusas, pero la decisión sobre sus objetivos recaerá en Minsk.

Asesoría y Corrección: Bricslat (Argentina)

Fuentes:

https://www.rbc.ru/base/28/11/2024/67486cbd9a79473abf02b59b
https://t.me/SputnikARM/80084
https://vstatic.vietnam.vn/vietnam/resource/IMAGE/2025/1/19/1146a4fc0de84e5f990d28d093868d2e
https://www.youtube.com/watch?v=F7a2i_TIMDg

San Juan Ciencia & Tecnología

San Juan tendrá un nuevo telescopio que permitirá controlar la basura espacial

Published

1 mes ago

domingo 1 de junio, 2025

Colectivo de Redacción

Este importante avance será posible gracias a un convenio histórico de cooperación entre la Facultad de Ciencias Exactas, Físicas y Naturales y la Agencia Espacial Italiana.

San Juan será escenario de un avance sin precedentes en materia astronómica. Se trata de la instalación en la Estación Astronómica de Altura Carlos Cesco, en Barreal, de un telescopio FlyEye destinado a la observación y vigilancia de basura espacial. Y que será el primero de este tipo en la provincia. Esta acción será posible gracias a un convenio entre la Facultad de Ciencias Exactas, de la UNSJ, y la Agencia Espacial Italiana (ASI). Natalia Nuñez, decana de esta unidad académica, adelantó que el proyecto se encuentra en una ‘etapa avanzada de desarrollo’.

El pasado 26 de mayo, la decana Nuñez y el director del Observatorio Felix Aguilar, Carlos Francile, recibieron la visita de una delegación de alto nivel de la Agencia Espacial Italiana para avanzar en el convenio histórico que permitirá la instalación de este telescopio, que va camino a la concreción. Es por este motivo que en la reunión también participó Marcelo Colazo, gerente de Vinculación Tecnológica de CONAE (Comisión Nacional de Actividades Espaciales) y representantes de la empresa contratada para la instalación del nuevo telescopio de un metro de diámetro y equipado con tecnología de vanguardia y un amplio campo visual que lo convierten en una herramienta clave para identificar y seguir la trayectoria de residuos espaciales, un aspecto crucial para la seguridad de misiones orbitales. ‘Con la visita de los representantes de ASI la semana pasada, pudimos terminar de darle forma al convenio para que lo firme el Rector de la universidad. Sólo nos faltaba definir el lugar exacto donde se instalará este nuevo instrumental en la Estación Cesco. Ya se definió y el proyecto avanza’, sostuvo Natalia Nuñez.

La decana también agregó que este convenio de cooperación establece que ASI aportará el nuevo telescopio y asumirá los gastos de la construcción de la infraestructura necesaria para su instalación, mientras que la Estación Cesco, dependiente de la UNSJ, cederá en comodato el espacio para construir el edificio que albergará el equipo y otro anexo para su ensamble, como también se hará cargo de su mantenimiento.

Si bien el telescopio que detecta basura espacial aún no ha sido trasladado al país, ya comenzaron a planificar las obras para su instalación, que incluyen la construcción de una cúpula especializada. Se estima que los trabajos comenzarán a principios de 2026, mientras que la fase previa de diseño y preparación concluiría entre septiembre y octubre de este año. ‘La instalación de este nuevo equipo nos permitirá seguir potenciando lazos de colaboración tanto con la CONAE como con ASI y nos abre un área en la que aún no hemos trabajado como es el tema relacionado con los desechos espaciales que se conecta con otras áreas como son la agronomía y la temática de los satélites. Esto representa un gran avance para la UNSJ y para San Juan en materia de capacitación e investigación’, dijo Nuñez.

La decana agregó que este convenio representa el primer acuerdo de cooperación entre la UNSJ y la ASI y que se encuentra en la fase final de revisión administrativa. Y que tras ser evaluado por la universidad, la agencia italiana y la CONAE, resta la aprobación por parte de las cancillerías de Argentina e Italia que ya dieron su visto bueno. Es por esto que se estima que la formalización del acuerdo se concretará entre junio y julio de este año.

Este proyecto de cooperación fue presentado oficialmente el pasado 31 de marzo ante el Consejo Directivo de la Facultad, durante una sesión especial realizada en la Estación Astronómica con motivo de su 60º aniversario.

> Planes futuros

Natalia Nuñez, decana de la Facultad de Exactas, dijo que se creará un programa para que alumnos avanzados de Astronomía puedan realizar pasantías y capacitaciones con el nuevo telescopio detector de residuos espaciales. También podrán hacerlos los jóvenes investigadores.

/DC

San Juan Educación Ciencia & Tecnología

Se entregó el premio del concurso «Paseo ConCiencia»

Published

2 meses ago

martes 20 de mayo, 2025

Colectivo de Redacción

Se trata de un programa de innovación tecnológica promovido en conjunto entre el Ministerio de Producción, Trabajo e Innovación y el Municipio de Rivadavia.

El concurso «Paseo ConCiencia» se trata de la presentación de propuestas para aprovechar espacios públicos como lugares de encuentro y aprendizaje, teniendo en cuenta la ciencia y la tecnología como herramientas para promover el pensamiento crítico, la creatividad y el desarrollo de habilidades científicas y tecnológicas.

El concurso busca, además, incentivar la participación de profesionales, inventores e instituciones educativas. Los postulantes diseñaron juegos y atracciones interactivas que permitan demostrar algún principio científico-tecnológico para implementar en paseos, plazas y parques.

En esta oportunidad, la Secretaría de Ciencia, Tecnología e Innovación hizo entrega de una Tablet a las ganadoras de la categoría institución educativa, destacando a las alumnas María Luz Becerra, María Paz Manzano y Ana Toridandel pertenecientes al 3° año de formación general del ciclo básico de secundaria del Colegio Inglés Bilingüe quienes elaboraron el proyecto dentro de la materia de artes visuales y fueron guiadas por la profesora Débora Lucía Bazán Flitt. Asimismo, tendrán la posibilidad de participar en talleres de robótica productiva

En relación al material elaborado, las estudiantes detallaron que el proyecto se trata de un laberinto de colores con un círculo cromático en el medio del dispositivo donde las personas puedan aprender sobre distintos inventos de Newton, la teoría del color, y un poco de tecnología gracias a los QR.

También comentaron que lo desarrollado tiene como objetivo intervenir lúdicamente un espacio público al aire libre con dispositivos tridimensionales diseñados para enseñar la teoría del color de manera interactiva y pedagógica. Los estudiantes de 3er año de secundaria del curso de Artes Visuales han desarrollado maquetas que aplican los conceptos aprendidos en clase, desde los aportes de la Isaac Newton a la colorimetría hasta los avances contemporáneos en el ámbito científico; transformando la plaza y/o el paseo en un espacio educativo y divertido para toda la comunidad.

/PrensaLegislatura