Connect with us

Ciencia & Ambiente Ciencia & Tecnología

Expertos piden pausar la investigación sobre inteligencia artificial: La humanidad está en riesgo.

Published

on

En una carta abierta, miles de personalidades reclamaron suspender por al menos seis meses los experimentos gigantes que «ni sus creadores pueden entender, predecir o controlar».

El vertiginoso avance de la Inteligencia Artificial (IA) asusta incluso a sus propios creadores. Este miércoles Elon Musk, uno de los fundadores de OpenAI, y cientos de expertos del mundo firmaron una petición para suspender por al menos seis meses las investigaciones en tecnologías más potentes que ChatGPT 4 por posibles “grandes riesgos para la humanidad”.

La junta de firmas tiene lugar en el sitio del instituto Future Of Life, donde se exige una “pausa a los experimentos gigantes de IA” hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la «dramática perturbación económica y política (especialmente para la democracia) que causará la IA».

El director de OpenAI, Sam Altman, reconoció en otras oportunidades tener «un poco de miedo» de que su creación se utilice para «desinformación a gran escala o ciberataques«. En los últimos días se viralizaron fotos falsas ultrarealistas del supuesto arresto de Donald Trump, que habían sido creadas con esta tecnología.

Pero Altman no es el único que se mostró preocupado. Otros como Musk, dueño de Twitter y fundador de SpaceX y Tesla, o el historiador y pensador israelí Yuval Noah Hariri han expresado sus temores sobre una IA incontrolable que supere a los humanos.

La carta pública expresa una profunda preocupación por el avance de la IA por fuera de los límites que pueden controlar incluso los propios creadores. «En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable«, afirma el documento.

A su vez, se pregunta: «¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes?¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos».

Para los expertos firmantes, “los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.

Además de Musk, Altman y Harari, hay otras importantes personalidades que firmaron la petición, como el cofundador de Apple, Steve Wozniak, miembros del laboratorio de AI DeepMind de Google, el director de Stability AI, Emad Mostaque, así como expertos y académicos estadounidenses de IA e ingenieros ejecutivos de Microsoft, empresa aliada de OpenAI.

La carta completa.

Los sistemas de inteligencia artificial (IA) con inteligencia competitiva humana pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y reconocido por los principales laboratorios de IA. Según los Principios de IA de Asilomar ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debería ser planificada y gestionada con recursos y cuidados correspondientes. Desafortunadamente, este nivel de planificación y gestión no está sucediendo, aunque en los últimos meses los laboratorios de IA han estado encerrados en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable.

Los sistemas de IA contemporáneos están comenzando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Deberíamos automatizar todos los trabajos, incluso los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, inteligencia, obsolescencia y reemplazo? ¿Deberíamos arriesgar la pérdida del control de nuestra civilización? Tales decisiones no deben ser delegadas a líderes tecnológicos no elegidos.

Los sistemas de IA poderosos deben desarrollarse solo cuando estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La declaración reciente de OpenAI sobre la inteligencia artificial general afirma que «en algún momento, puede ser importante obtener una revisión independiente antes de comenzar a capacitar a los sistemas futuros, y para los esfuerzos más avanzados, acordar limitar la tasa de crecimiento del cómputo utilizado para crear nuevos modelos». Estamos de acuerdo. Ese momento es ahora.

Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que detengan inmediatamente durante al menos 6 meses la capacitación de sistemas de IA más poderosos que GPT-4. Esta pausa debe ser pública y verificable e incluir a todos los actores clave. Si no se puede aplicar rápidamente una pausa de este tipo, los gobiernos deben intervenir e instituir un moratorio.

Los laboratorios de IA y los expertos independientes deben usar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos independientes externos. Estos protocolos deben garantizar que los sistemas que los cumplan sean seguros más allá de toda duda razonable. Esto no significa una pausa en el desarrollo de IA en general, simplemente un retroceso en la peligrosa carrera hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes.

La investigación y el desarrollo de la IA deberían centrarse en hacer que los sistemas de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

Al mismo tiempo, los desarrolladores de IA deben trabajar con los responsables políticos para acelerar dramáticamente el desarrollo de sistemas sólidos de gobernanza de la IA. Estos deberían incluir como mínimo: nuevas autoridades regulatorias capaces y dedicadas a la IA; supervisión y seguimiento de sistemas de IA altamente capaces y grandes conjuntos de capacidades computacionales; sistemas de procedencia y marca de agua para ayudar a distinguir lo real de lo sintético y rastrear las fugas de modelos; un ecosistema sólido de auditoría y certificación; responsabilidad por daños causados por la IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente a la democracia) que la IA causará.

La humanidad puede disfrutar de un futuro próspero con la IA. Después de haber logrado crear sistemas de IA poderosos, ahora podemos disfrutar de un «verano de la IA» en el que cosechamos las recompensas, diseñamos estos sistemas para el beneficio claro de todos y damos a la sociedad la oportunidad de adaptarse. La sociedad ha pausado otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de un largo verano de la IA, sin apresurarnos sin preparación hacia un otoño.

/Imagen principal: Archivo/

San JuanEducaciónCiencia & Tecnología

Se entregó el premio del concurso «Paseo ConCiencia»

Published

on

Se trata de un programa de innovación tecnológica promovido en conjunto entre el Ministerio de Producción, Trabajo e Innovación y el Municipio de Rivadavia.

El concurso «Paseo ConCiencia» se trata de la presentación de propuestas para aprovechar espacios públicos como lugares de encuentro y aprendizaje, teniendo en cuenta la ciencia y la tecnología como herramientas para promover el pensamiento crítico, la creatividad y el desarrollo de habilidades científicas y tecnológicas.

El concurso busca, además, incentivar la participación de profesionales, inventores e instituciones educativas. Los postulantes diseñaron juegos y atracciones interactivas que permitan demostrar algún principio científico-tecnológico para implementar en paseos, plazas y parques. 

En esta oportunidad, la Secretaría de Ciencia, Tecnología e Innovación hizo entrega de una Tablet a las ganadoras de la categoría institución educativa, destacando a las alumnas María Luz Becerra, María Paz Manzano y Ana Toridandel pertenecientes al 3° año de formación general del ciclo básico de secundaria del Colegio Inglés Bilingüe quienes elaboraron el proyecto dentro de la materia de artes visuales y fueron guiadas por la profesora Débora Lucía Bazán Flitt. Asimismo, tendrán la posibilidad de participar en talleres de robótica productiva

En relación al material elaborado, las estudiantes detallaron que el proyecto se trata de un laberinto de colores con un círculo cromático en el medio del dispositivo donde las personas puedan aprender sobre distintos inventos de Newton, la teoría del color, y un poco de tecnología gracias a los QR.

También comentaron que lo desarrollado tiene como objetivo intervenir lúdicamente un espacio público al aire libre con dispositivos tridimensionales diseñados para enseñar la teoría del color de manera interactiva y pedagógica. Los estudiantes de 3er año de secundaria del curso de Artes Visuales han desarrollado maquetas que aplican los conceptos aprendidos en clase, desde los aportes de la Isaac Newton a la colorimetría hasta los avances contemporáneos en el ámbito científico; transformando la plaza y/o el paseo en un espacio educativo y divertido para toda la comunidad.

/PrensaLegislatura

Continue Reading

NacionalCiencia & Tecnología

Científicos del Conicet descubrieron una nueva forma de frenar el crecimiento de tumores intracraneales

Published

on

Identificaron una proteína que tiene un papel clave en la proliferación de tumores neuroendocrinos hipofisarios. El avance abre nuevas posibilidades terapéuticas para estos pacientes.

Un equipo de investigadores del Consejo Nacional de Investigaciones Científicas y Técnicas (CONICET), en colaboración con la Universidad Nacional de Córdoba (UNC) y el Hospital Privado Universitario de Córdoba, descubrió una ingeniosa forma de revertir el desarrollo de un tipo de tumor cerebral.

Según se describió en la revista Neuro oncology, donde se publicó el artículo científico, el grupo investigaba sobre la hipófisis, un órgano localizado en la base del cerebro que elabora hormonas para controlar otras glándulas y muchas funciones del cuerpo —como el crecimiento y la fertilidad—, y que, en ocasiones, puede desarrollar tumores cerebrales. El nombre específico es tumor somatotropos de la hipófisis.

Los tumores neuroendocrinos hipofisarios (PitNETs) representan el segundo tipo más común de tumores intracraneales, y uno de sus subtipos, los tumores somatotropos, constituyen el segundo más frecuente. El interés de los investigadores argentinos era revertir esa tendencia.

¿Qué descubrieron?

Los científicos argentinos identificaron una proteína llamada SHP2 que desempeña un papel clave en el crecimiento de ciertos tumores cerebrales, específicamente los tumores somatotropos de la hipófisis. 

Células tumorales de pacientes con tumor somatotropo observadas mediante microscopio electrónico de transmisión. (Imagen: Conicet)


¿Por qué es importante?

Actualmente, el tratamiento de primera línea para estos tumores es la cirugía transesfenoidal, pero en muchos casos se complementa con un tratamiento adicional, que consiste en incorporar medicamentos como el Octreótido. Sin embargo, aproximadamente el 50 por ciento de los pacientes no responde adecuadamente a estos tratamientos farmacológicos.

En tanto, el descubrimiento de que la inhibición de la proteína SHP2 puede reducir significativamente el crecimiento de estos tumores en modelos preclínicos sugiere una nueva vía terapéutica para aquellos pacientes que no obtienen resultados con las terapias convencionales

¿Qué significa esto para el futuro?

Este hallazgo abre la posibilidad de desarrollar tratamientos dirigidos específicamente a la proteína SHP2, lo que podría mejorar las opciones terapéuticas y la calidad de vida de los pacientes afectados por estos tumores. Aunque los resultados son prometedores, se necesitarán más estudios y ensayos clínicos para confirmar la eficacia y seguridad de esta estrategia en humanos.

Juan Pablo Petiti, investigador del CONICET, y Gilda Mezger, becaria del CONICET, analizando células tumorales en un microscopio de alta resolución.

“El trabajo preclínico lo comprobó y ahora se abren las puertas para profundizar esta línea de investigación con el fin de avanzar hacia el desarrollo de nuevas posibilidades terapéuticas para los pacientes en los que no funcionan las terapias convencionales”, indicó Juan Pablo Petiti, líder del estudio e investigador del CONICET.

¿Cómo lo descubrieron?

“A partir de nuestro trabajo colaborativo con el Hospital Privado Universitario de Córdoba, observamos mediante diferentes estrategias metodológicas, que los pacientes con tumores somatotropos presentaban niveles elevados de SHP2, una proteína que parece estar relacionada con la capacidad de crecimiento del tumor”, explicó Petiti, líder del estudio e investigador del Conicet en el Instituto de Investigaciones en Ciencias de la Salud (INICSA, CONICET-UNC).

Juan Pablo Petiti, Liliana Sosa, Natacha Zlokowski, Gilda Mezger y Erica Faure, del INICSA (CONICET-UNC), con médicos del Hospital Privado Universitario de Córdoba: Laura Anahí Cecenarro, Juan De Battista y Patricia Calafat.

Los investigadores del INICSA trabajaron en conjunto con endocrinólogos, patólogos y neurocirujanos del Hospital Privado Universitario de Córdoba para avanzar en esta línea de investigación.

«Nuestros resultados aportan evidencias sólidas de que ciertos pacientes con PitNETs (incluyendo los tumores somatotropos) podrían ser candidatos a ser reclutados en ensayos clínicos en un futuro. Previamente, necesitamos profundizar algunos aspectos en el modelo preclínico que tienen que ver con los posibles efectos adversos de la droga”, afirmó Petiti, quien realizó estancias de especialización en el Instituto Curie de Paris, en el Laboratorio Europeo de Biología Molecular (EMBL según sus siglas en inglés), en Heildelberg, y en el Centro de Cáncer Moore de la Universidad de California, en San Diego.

Ciencia es futuro

Para el investigador del Conicet, el trabajo demuestra cómo la colaboración entre investigadores y médicos puede acelerar el desarrollo de nuevas estrategias terapéuticas, al tiempo que“impulsa a seguir apostando por la investigación traslacional, fortaleciendo la ciencia y la medicina para mejorar la calidad de vida de los pacientes”.

Del avance también participaron Facundo García Barberá (primer autor del estudio), Florencia PicechLiliana Sosa y Florencia Mezger, del INICSA; profesionales de la Facultad de Ciencias Médicas de la UNC como Natacha Zlokowski, Eric Faure Jorge Mukdsi; y los médicos Juan De Battista (Neurocirugía) y Patricia Calafat (Anatomía Patológica) del Hospital Privado Universitario de Córdoba.

/P12

Continue Reading

Sociedad TV BRICSCiencia & Tecnología

Día de la Cosmonáutica 2025: cómo los países BRICS construyen un futuro más allá de la Tierra

Published

on

Cada 12 de abril, el mundo recuerda la primera llegada de la humanidad al espacio. En 1961, el cosmonauta ruso Yuri Gagarin no solo orbitó la Tierra, sino que marcó el inicio de una nueva era, en la que los vuelos espaciales se convirtieron en una cuestión de tiempo, avances tecnológicos y voluntad humana. Hoy, las aspiraciones de ir más allá del planeta también se fortalecen en las naciones del Sur Global. En el seno del grupo BRICS ha surgido una visión particular del espacio exterior: una perspectiva pragmática y basada en la cooperación internacional

Rusia con razón es considerada pionera del espacio. El vuelo de Gagarin en 1961 marcó el inicio de una nueva era para toda la humanidad. Dos años después, Valentina Tereshkova se convirtió en la primera mujer en el espacio. Estas figuras simbólicas siguen siendo hasta hoy una base cultural para toda la cosmonáutica mundial.

Asimismo, India abrió su camino al espacio en 1984, cuando Rakesh Sharma viajó a la órbita como parte de una tripulación soviética. Hoy en día, el país lanza satélites de forma autónoma, desarrolla misiones a Marte y se prepara para iniciar su propio programa espacial tripulado. Esto representa no solo un crecimiento tecnológico, sino también un motivo de orgullo: en 2024 el país celebró por primera vez el Día Nacional del Espacio

China avanza por su propia ruta, apoyándose en recursos internos y una planificación a largo plazo. En 2003, Yang Liwei se convirtió en el primer astronauta de la República Popular China, dando inicio a una serie de lanzamientos exitosos, incluida la creación de una estación orbital. Más tarde, Wang Yaping se convirtió en la primera mujer en formar parte de su tripulación.

Así pues, los Emiratos Árabes Unidos se convirtieron en el primer país árabe en enviar a su propio astronauta. En 2019, Hazzaa Al-Mansoori pasó ocho días en la Esptación Espacial Internacional (EEI), y en 2021, los Emiratos lanzaron la misión a Marte «Hope»: la sonda entró en la órbita del Planeta Rojo y transmite datos científicos.

De modo similar, Brasil inició su camino gracias a la cooperación internacional. En 2006, Marcos Pontes viajó al espacio en la nave rusa «Soyuz». Esto no fue solo un logro personal, sino un punto de partida para el desarrollo del programa nacional. Hoy el país se enfoca en tecnologías satelitales y monitoreo ecológico remoto.

Sudáfrica participa activamente en startups espaciales internacionales y en el desarrollo de sistemas satelitales. El ingeniero Timothy Nash representa a una nueva generación de especialistas técnicos, mientras que la Agencia Nacional Espacial Sudafricana (SANSA) trabaja en la creación de un sistema de observación terrestre por satélite.

Egipto también fortalece activamente su presencia en el espacio a través del trabajo de la agencia nacional EGSA, que apuesta por la creación de infraestructura espacial regional. Entre los especialistas clave se encuentran el ingeniero Adel Shawky, quien participó en la creación de los satélites EgyptSat, y Noura Al-Matari, una joven científica que trabaja en tecnologías satelitales y desarrolla colaboraciones científicas internacionales.

Etiopía comenzó su trayectoria con un objetivo práctico: meteorología y agricultura. En 2016 se creó el Instituto Etíope de Ciencia y Tecnología Espacial. En 2019, el país lanzó su primer satélite. Para Etiopía, como para muchos países del Sur Global, el espacio es ante todo una herramienta para resolver problemas terrestres: gestión del agua, previsión de cosechas, monitoreo climático.

Cuando el futuro ya está cerca: inteligencia artificial, cooperación y espacio

En medio del avance tecnológico, cada vez se plantea más la pregunta: ¿cuál es el papel del ser humano en el espacio del futuro? El empresario tecnológico ruso Ruslán Ajtiamov considera que la inteligencia artificial ya desempeña un rol clave en las misiones espaciales.

«Los rovers deciden por sí mismos adónde ir. Los telescopios analizan montañas de imágenes. Sin la inteligencia artificial, los científicos simplemente se ahogarían en datos», dijo en una conversación con TV BRICS.

Ajtiámov añadió que en los países que integran los BRICS también se están desarrollando activamente estas tecnologías: en Rusia, en el programa lunar; en China, en la estación orbital; en India y en la misión a Marte. En los próximos años, la IA se convertirá en un miembro indispensable de la tripulación, aunque la decisión en situaciones críticas seguirá siendo humana

¿Y qué hay de la nueva economía espacial? Esta es la pregunta que se plantean en Irán. El director del Instituto Iraní de Investigaciones Espaciales, Vahid Yazdanyan, en un reportaje de  Mehr News Agency, socio de TV BRICS, subraya: el espacio es un sector que requiere inversión y cooperación internacional.

«Nuestros especialistas trabajan con entrega. Debemos crear para ellos las mejores condiciones, desarrollar infraestructura, estándares e interacción con el sector privado», señaló y enfatizó que uno de los principales objetivos para el futuro es construir un ecosistema propio de la industria espacial, con énfasis en tecnología, personal y desarrollo sostenible.

Fotografía: histrf.ru / iStock / CCTV /  russianemirates.com

@TVBRICS

Continue Reading

Continue Reading