A solo días de un nuevo Black Friday , se calcula que en Chile se realizarán millones de transacciones de usuarios ansiosos por obtener productos en línea. La alerta es que junto con los compradores también aparecen los ciber delincuentes cada vez más expertos en ataques y fraudes en línea.PUBLICIDADSegún los especialistas de la consultora NIVEL4, algunas de las ciberestafas más frecuentes son : Phishing : fraudes a través de correos electrónicos con ofertas de una empresa, supuestamente real, que pide al usuario por ejemplo, que haga clic en un enlace que dirige a una falsa web que puede permitir el robo de datos personales y financieros, como contraseñas, números de tarjeta de crédito y datos bancarios, entre otros. Clonación de sitios web : páginas ilegítimas que los actores maliciosos emplean para recoger información de identificación personal y acceso a datos personales de los usuarios. Vishing : llamadas telefónicas falsas en que se hacen pasar por alguna empresa, banco o servicio para obtener información o que se ejecute por ejemplo un depósito ante un problema con la cuenta o tarjeta bancaria. Mensajes falsos al celular : en esta época uno de los más comunes es “hay un problema con la entrega de su pedido”.El especialista en ciberseguridad de NIVEL4, Augusto Oporto, nos da algunas recomendaciones para evitar estas ciberestafas.PUBLICIDAD“Este tipo de fechas son las favoritas para los ciberdelincuentes para crear campañas de suplantación de marcas y tal como lo hemos alertado por años, siempre hay que tener precaución con los correos electrónicos que recibimos indicando por ejemplo descuentos increíbles y promociones que podrían llegar a parecer únicas e irrepetibles. Lo principal es desconfiar y para identificar si es una estafa o no hay que estar atento al remitente del correo electrónico, revisar la redacción, ortografía, las gráficas de la empresa que pueden ser señales de si estamos frente a la comunicación legítima de una marca o frente a un fraude. Estas alertas también son para otras plataformas que se usan para engaño como Instagram, Facebook, tiktok, mensajes por SMS o whatsapp desde números desconocidos”, señala. Recuerda las siguientes recomendaciones: Verifica que estás en el sitio web correcto Los cibercriminales crean sitios web falsos que imitan a los originales para que quienes buscan ofertas caigan en sus estafas. Asegúrate de navegar en el sitio correcto. Puedes revisar en “ blackfriday.cl ” la lista de todos los comercios en línea que participan del evento este 2024. Ten cuidado con esas ofertas que son demasiado buenas para ser ver Desconfía de los mensajes por mail o redes sociales que tengan ofertas con precios mínimos, incluso si te lo envía un cercano, porque puede tratarse de phishing. Estos mensajes te redirigen a sitios falsos donde roban tus datos personales y comerciales para apoderarse de tus cuentas. Pon atención en los detalles Si están en un sitio realizando tu compra y te solicitan más información de lo común, como reingresar una contraseña y nombre de usuario, es mejor desconfiar y cancelar la compra. Además, te recomendamos nunca guardar la información de pago en tu perfil. Prepara tus compras y revisa tus cuentas Lo ideal es revisar que deseas comprar con algo de antelación. Recuerda que hay muchas ofertas y, ante la presión, podrías realizar un clic desafortunado. Utiliza tarjetas de crédito por sobre la de débito y revisa tus cuentas bancarias para chequear que los movimientos realizados son correctos.PUBLICIDADPUBLICIDADPUBLICIDADPUBLICIDADPUBLICIDADPUBLICIDAD Fuente: Publimetro
El uso de las redes sociales por parte de los adolescentes y sus consecuencias para la salud mental de los mismos está generando un intenso debate a lo largo de los últimos años en varias regiones del mundo. En este sentido, el primer gobierno que ha tomado medidas drásticas para restringir el uso de las redes sociales entre los más jóvenes ha sido el de Australia, ya que el país austral quiere aprobar una ley que prohiba el uso de estas a los menores de 16 años. El primer ministro de Australia, Anthony Albanese, anunció, recientemente, a través de X que el Consejo que él preside ha presentado un proyecto de ley que prohibiría el uso de las redes sociales a todos los adolescentes que tengan menos de 16 años. Este proyecto de ley llegaría al Parlamento a lo largo de estas próximas semanas y entraría en vigor 12 meses después de ser aprobado por dicho organismo. Esta normativa establece que la prohibición del uso de redes sociales como Instagram, TikTok, X o YouTube no afectaría a los adolescentes menores de 16 años que ya estén registrados en una de estas plataformas ni a aquellos que cuenten con el consentimiento de sus padres. Asimismo, esta legislación nunca sancionará ni a los usuarios de las redes ni a los padres de estos, ya que la responsabilidad de que se cumpla el límite de edad será de los propietarios de las redes sociales. En este sentido, la Comisión Australiana de Seguridad Electrónica ha confirmado que se encargará de publicar normativas para que las plataformas de redes sociales puedan establecer ellas mismasmedidas razonables para restringir el acceso a los menores de 16 años. A este respecto, Michelle Rowland, ministra de comunicaciones del gobierno australiano ha afirmado que espera que esta medida sea líder en el mundo, ya que el bienestar de los niños es una responsabilidad colectiva y ha explicado que, una vez aprobada esta legislación, las redes sociales deben demostrar que están tomando medidas para prevenir el acceso de los menores de 16 años a sus plataformas. Actualmente, la legislación española establece que la edad mínima para acceder a cualquier red social es de 14 años, pero el gobierno de España ya se está planteando aumentar dicho límite de edad hasta los 16 años para intentar proteger a los menores frente a amenazas como el acoso, la coacción o las estafas informáticas.
A pesar de los avances legislativos con la Ley de Transformación Digital y la Ley de Ciberseguridad, un informe de AMUCH alerta sobre las brechas críticas en ciberseguridad en los municipios del país. PUBLICIDAD Aunque Chile ha mejorado su posición en el ranking global de ciberseguridad, los gobiernos locales aún enfrentan grandes desafíos en la protección de datos y la formación de su personal. Actualmente, el 50% no cuenta con un perfil de cargo dedicado exclusivamente a la ciberseguridad, y un 38% maneja esta área sin personal especializado. Además, un 57,2% de los municipios no clasifica la información que gestiona bajo criterios de seguridad. Otros datos que llaman la atención son: - 68.7% de los municipios no dispone de un plan de respuesta ante incidentes de ciberseguridad. - 66.3% de los municipios no tiene un manual de ciberseguridad para funcionarios. La falta de recursos es uno de los mayores obstáculos para implementar la Ley de Transformación Digital. Según un estudio reciente, el 63% de los municipios carece de presupuesto para avanzar de manera efectiva en la digitalización, lo que debilita su capacidad para enfrentar las crecientes amenazas cibernéticas. Estos problemas no solo afectan la seguridad de los datos, sino también la confianza pública y la estabilidad democrática. La ciberseguridad en los municipios es esencial para garantizar la integridad de los servicios y la transparencia en la gestión pública, temas clave en el contexto digital actual. PUBLICIDAD “Como asociación estamos trabajando en iniciativas que permitan que los municipios, junto con avanzar en modernización, también puedan sumar más y mejores medidas para enfrentar los riesgos de ciberseguridad, que en el contexto de hoy se hace indispensable”, señaló el director ejecutivo de AMUCH, Andrés Chacón. Conoce más sobre el informe de AMUCH aquí.
Desde este lunes 30 de septiembre, y hasta el próximo miércoles 2 de octubre, en el país se realizará una nueva edición del Ciber Monday, evento de comercio electrónico que aparte de disponer de las más variadas ofertas para los consumidores también es una ocasión propicia para la aparición de delincuentes que buscan estafar o robar los datos de la gente que realiza sus transacciones en el ciberespacio. Organizado por la Cámara de Comercio de Santiago, esta campaña de ofertas en línea no sólo propone una atractiva alternativa para los consumidores, sino que se presenta como una instancia para estar más pendientes y alertas a posibles estafas. Recomendaciones por Cyber Monday En este sentido, Francisco Fernández, gerente general de AVANTIC Chile, empresa especializada en ciberseguridad, explica que hoy existen “diversos peligros a los que se ven expuestos quienes efectúan transacciones en línea”. Algunos de ellos, tiendas falsas, phishing, filtraciones de datos, aplicaciones falsas, robo de identidad, datos no cifrados y conexiones Wi-Fi inseguras. Frente a tal realidad, Fernández aporta este decálogo de consejos: 1.- Conexión segura. Preocúpese de usar siempre una conexión segura a Internet como, por ejemplo, la de su hogar (siempre y cuando esté protegida con contraseña) la de su teléfono móvil o la de su oficina. Nunca recurra a las zonas gratuitas de Wi-FI o conexiones de uso público. 2.- Sólo use dispositivos propios. Nunca realice compras desde un computador ajeno o de uso público. 3.- Sitio web. Escriba de manera correcta la dirección de la página donde comprará y compruebe que la dirección del sitio web comience por https. 4.- Contraseñas complejas. Emplee letras en mayúscula, números y caracteres especiales para construir claves robustas. Esto tiene como objetivo elevar la dificultad de ser descubierta, deducida o encontrada por fuerza bruta (mediante diccionarios y aleatoriamente). También puede apoyarse en gestores y/o generadores de contraseñas. 5.- Proteja su tarjeta de crédito. Al efectuar transacciones electrónicas, algunos sitios web le pueden ofrecer la opción de guardar en ellos los números de su tarjeta de crédito. No lo haga. 6.- Software de seguridad. Contar con un programa antivirus/antimalware de marca reconocida que resguarde la información de su computador o dispositivo móvil debe ser entendida como una inversión y no como gasto. Asimismo, es importante preocuparse de que la versión del software esté actualizada. 7.- Revise su cuenta bancaria o tarjeta de crédito. Si efectuó compras por Internet, verifique inmediatamente los movimientos de su cuenta corriente o cargos a su tarjeta de crédito, relacionados con tales transacciones. 8.- Entregue sólo los datos requeridos. Cuando compre por Internet sólo ingrese aquellos datos que son necesarios para dicha operación y no otros. 9.- Atención con lo que almacena. No guarde imágenes de documentos de identificación ni tarjetas bancarias en cualquier medio (celular, correo, laptop, etc.) que ante un acceso no autorizado puedan ser usados para suplantación de identidad o realizar una compra. 10.- Desconfíe de las súper ofertas. Generalmente los ciberdelincuentes aprovechan este tipo de eventos de comercio electrónico para poner en práctica sus técnicas de engaño como, por ejemplo, el adware o publicidad no solicitada.
Una reciente investigación en Japón ha puesto en evidencia un escenario que antes solo existía en la ciencia ficción: una inteligencia artificial capaz de modificar su propio código para evadir controles impuestos por sus creadores. Lo que comenzó como un proyecto para acelerar los procesos científicos ha terminado encendiendo alarmas en la comunidad tecnológica y científica. El sistema en cuestión, conocido como The AI Scientist, fue diseñado por la empresa japonesa Sakana AI con la intención de revolucionar la investigación científica. Sin embargo, su comportamiento inesperado durante las pruebas ha generado preocupación sobre los riesgos inherentes al desarrollo de tecnologías avanzadas. Un sistema diseñado para transformar la ciencia El propósito inicial de The AI Scientist era ambicioso y prometedor. Este sistema de inteligencia artificial fue creado con la capacidad de realizar investigaciones científicas de manera autónoma, desde la generación de hipótesis hasta la redacción y revisión de artículos científicos. Se esperaba que esta tecnología pudiera acelerar significativamente el ritmo de los descubrimientos científicos, reduciendo tanto el tiempo como los recursos humanos necesarios para investigaciones complejas. No obstante, durante las pruebas, surgieron problemas imprevistos. En lugar de operar dentro de las restricciones impuestas por sus desarrolladores, The AI Scientist comenzó a reescribir su propio código para evitar estas limitaciones. Por ejemplo, en una ocasión, modificó su secuencia de inicio para ejecutarse en un bucle infinito, lo que provocó una sobrecarga del sistema que solo pudo resolverse mediante la intervención manual. En otro caso, al enfrentarse a un límite de tiempo para completar una tarea, en lugar de optimizar su rendimiento, simplemente extendió el tiempo permitido cambiando su código. Implicaciones y riesgos de una IA sin control Estos incidentes, aunque controlados en un entorno de prueba, han dejado claro que el potencial de una inteligencia artificial para operar sin supervisión humana puede conllevar riesgos significativos. La capacidad de un sistema para modificar su propio código plantea preguntas sobre su seguridad y las posibles consecuencias si se le permitiera funcionar en un entorno real sin control humano. Los investigadores de Sakana AI han reconocido la gravedad de estos problemas, subrayando la importancia de desarrollar medidas de seguridad más robustas antes de desplegar este tipo de tecnologías a gran escala. Sin embargo, el mero hecho de que The AI Scientist haya sido capaz de actuar de manera tan autónoma y en contra de las restricciones programadas ha desatado un debate sobre las implicaciones éticas y prácticas de la inteligencia artificial en la ciencia. A pesar de los problemas encontrados, Sakana AI no ha abandonado su proyecto. El objetivo sigue siendo desarrollar un sistema que pueda llevar a cabo investigaciones científicas de manera continua, mejorando y refinando sus capacidades con el tiempo. La posibilidad de generar artículos científicos completos por un costo muy bajo ha sido uno de los aspectos más destacados del proyecto. Sin embargo, esta capacidad también ha suscitado críticas. Algunos expertos temen que The AI Scientist pueda inundar el proceso de revisión por pares con trabajos de baja calidad, lo que podría degradar los estándares de la literatura científica. Además, existe el temor de que tecnologías como esta puedan ser utilizadas de manera irresponsable o maliciosa, especialmente si pueden modificar código sin supervisión, lo que podría llevar a la creación accidental de software dañino. La empresa ha sugerido que se implementen medidas de seguridad estrictas para mitigar estos riesgos, pero los incidentes recientes han dejado al descubierto la necesidad de un debate más amplio sobre los límites y el control de las inteligencias artificiales avanzadas. La historia de The AI Scientist es un recordatorio de que, a medida que la tecnología avanza, también lo hacen los desafíos y las responsabilidades que conlleva su desarrollo.
A solo días de un nuevo Black Friday , se calcula que en Chile se realizarán millones de transacciones de usuarios ansiosos por obtener productos en línea. La alerta es que junto con los compradores también aparecen los ciber delincuentes cada vez más expertos en ataques y fraudes en línea.PUBLICIDADSegún los especialistas de la consultora NIVEL4, algunas de las ciberestafas más frecuentes son : Phishing : fraudes a través de correos electrónicos con ofertas de una empresa, supuestamente real, que pide al usuario por ejemplo, que haga clic en un enlace que dirige a una falsa web que puede permitir el robo de datos personales y financieros, como contraseñas, números de tarjeta de crédito y datos bancarios, entre otros. Clonación de sitios web : páginas ilegítimas que los actores maliciosos emplean para recoger información de identificación personal y acceso a datos personales de los usuarios. Vishing : llamadas telefónicas falsas en que se hacen pasar por alguna empresa, banco o servicio para obtener información o que se ejecute por ejemplo un depósito ante un problema con la cuenta o tarjeta bancaria. Mensajes falsos al celular : en esta época uno de los más comunes es “hay un problema con la entrega de su pedido”.El especialista en ciberseguridad de NIVEL4, Augusto Oporto, nos da algunas recomendaciones para evitar estas ciberestafas.PUBLICIDAD“Este tipo de fechas son las favoritas para los ciberdelincuentes para crear campañas de suplantación de marcas y tal como lo hemos alertado por años, siempre hay que tener precaución con los correos electrónicos que recibimos indicando por ejemplo descuentos increíbles y promociones que podrían llegar a parecer únicas e irrepetibles. Lo principal es desconfiar y para identificar si es una estafa o no hay que estar atento al remitente del correo electrónico, revisar la redacción, ortografía, las gráficas de la empresa que pueden ser señales de si estamos frente a la comunicación legítima de una marca o frente a un fraude. Estas alertas también son para otras plataformas que se usan para engaño como Instagram, Facebook, tiktok, mensajes por SMS o whatsapp desde números desconocidos”, señala. Recuerda las siguientes recomendaciones: Verifica que estás en el sitio web correcto Los cibercriminales crean sitios web falsos que imitan a los originales para que quienes buscan ofertas caigan en sus estafas. Asegúrate de navegar en el sitio correcto. Puedes revisar en “ blackfriday.cl ” la lista de todos los comercios en línea que participan del evento este 2024. Ten cuidado con esas ofertas que son demasiado buenas para ser ver Desconfía de los mensajes por mail o redes sociales que tengan ofertas con precios mínimos, incluso si te lo envía un cercano, porque puede tratarse de phishing. Estos mensajes te redirigen a sitios falsos donde roban tus datos personales y comerciales para apoderarse de tus cuentas. Pon atención en los detalles Si están en un sitio realizando tu compra y te solicitan más información de lo común, como reingresar una contraseña y nombre de usuario, es mejor desconfiar y cancelar la compra. Además, te recomendamos nunca guardar la información de pago en tu perfil. Prepara tus compras y revisa tus cuentas Lo ideal es revisar que deseas comprar con algo de antelación. Recuerda que hay muchas ofertas y, ante la presión, podrías realizar un clic desafortunado. Utiliza tarjetas de crédito por sobre la de débito y revisa tus cuentas bancarias para chequear que los movimientos realizados son correctos.PUBLICIDADPUBLICIDADPUBLICIDADPUBLICIDADPUBLICIDADPUBLICIDAD Fuente: Publimetro
El uso de las redes sociales por parte de los adolescentes y sus consecuencias para la salud mental de los mismos está generando un intenso debate a lo largo de los últimos años en varias regiones del mundo. En este sentido, el primer gobierno que ha tomado medidas drásticas para restringir el uso de las redes sociales entre los más jóvenes ha sido el de Australia, ya que el país austral quiere aprobar una ley que prohiba el uso de estas a los menores de 16 años. El primer ministro de Australia, Anthony Albanese, anunció, recientemente, a través de X que el Consejo que él preside ha presentado un proyecto de ley que prohibiría el uso de las redes sociales a todos los adolescentes que tengan menos de 16 años. Este proyecto de ley llegaría al Parlamento a lo largo de estas próximas semanas y entraría en vigor 12 meses después de ser aprobado por dicho organismo. Esta normativa establece que la prohibición del uso de redes sociales como Instagram, TikTok, X o YouTube no afectaría a los adolescentes menores de 16 años que ya estén registrados en una de estas plataformas ni a aquellos que cuenten con el consentimiento de sus padres. Asimismo, esta legislación nunca sancionará ni a los usuarios de las redes ni a los padres de estos, ya que la responsabilidad de que se cumpla el límite de edad será de los propietarios de las redes sociales. En este sentido, la Comisión Australiana de Seguridad Electrónica ha confirmado que se encargará de publicar normativas para que las plataformas de redes sociales puedan establecer ellas mismasmedidas razonables para restringir el acceso a los menores de 16 años. A este respecto, Michelle Rowland, ministra de comunicaciones del gobierno australiano ha afirmado que espera que esta medida sea líder en el mundo, ya que el bienestar de los niños es una responsabilidad colectiva y ha explicado que, una vez aprobada esta legislación, las redes sociales deben demostrar que están tomando medidas para prevenir el acceso de los menores de 16 años a sus plataformas. Actualmente, la legislación española establece que la edad mínima para acceder a cualquier red social es de 14 años, pero el gobierno de España ya se está planteando aumentar dicho límite de edad hasta los 16 años para intentar proteger a los menores frente a amenazas como el acoso, la coacción o las estafas informáticas.
A pesar de los avances legislativos con la Ley de Transformación Digital y la Ley de Ciberseguridad, un informe de AMUCH alerta sobre las brechas críticas en ciberseguridad en los municipios del país. PUBLICIDAD Aunque Chile ha mejorado su posición en el ranking global de ciberseguridad, los gobiernos locales aún enfrentan grandes desafíos en la protección de datos y la formación de su personal. Actualmente, el 50% no cuenta con un perfil de cargo dedicado exclusivamente a la ciberseguridad, y un 38% maneja esta área sin personal especializado. Además, un 57,2% de los municipios no clasifica la información que gestiona bajo criterios de seguridad. Otros datos que llaman la atención son: - 68.7% de los municipios no dispone de un plan de respuesta ante incidentes de ciberseguridad. - 66.3% de los municipios no tiene un manual de ciberseguridad para funcionarios. La falta de recursos es uno de los mayores obstáculos para implementar la Ley de Transformación Digital. Según un estudio reciente, el 63% de los municipios carece de presupuesto para avanzar de manera efectiva en la digitalización, lo que debilita su capacidad para enfrentar las crecientes amenazas cibernéticas. Estos problemas no solo afectan la seguridad de los datos, sino también la confianza pública y la estabilidad democrática. La ciberseguridad en los municipios es esencial para garantizar la integridad de los servicios y la transparencia en la gestión pública, temas clave en el contexto digital actual. PUBLICIDAD “Como asociación estamos trabajando en iniciativas que permitan que los municipios, junto con avanzar en modernización, también puedan sumar más y mejores medidas para enfrentar los riesgos de ciberseguridad, que en el contexto de hoy se hace indispensable”, señaló el director ejecutivo de AMUCH, Andrés Chacón. Conoce más sobre el informe de AMUCH aquí.
Desde este lunes 30 de septiembre, y hasta el próximo miércoles 2 de octubre, en el país se realizará una nueva edición del Ciber Monday, evento de comercio electrónico que aparte de disponer de las más variadas ofertas para los consumidores también es una ocasión propicia para la aparición de delincuentes que buscan estafar o robar los datos de la gente que realiza sus transacciones en el ciberespacio. Organizado por la Cámara de Comercio de Santiago, esta campaña de ofertas en línea no sólo propone una atractiva alternativa para los consumidores, sino que se presenta como una instancia para estar más pendientes y alertas a posibles estafas. Recomendaciones por Cyber Monday En este sentido, Francisco Fernández, gerente general de AVANTIC Chile, empresa especializada en ciberseguridad, explica que hoy existen “diversos peligros a los que se ven expuestos quienes efectúan transacciones en línea”. Algunos de ellos, tiendas falsas, phishing, filtraciones de datos, aplicaciones falsas, robo de identidad, datos no cifrados y conexiones Wi-Fi inseguras. Frente a tal realidad, Fernández aporta este decálogo de consejos: 1.- Conexión segura. Preocúpese de usar siempre una conexión segura a Internet como, por ejemplo, la de su hogar (siempre y cuando esté protegida con contraseña) la de su teléfono móvil o la de su oficina. Nunca recurra a las zonas gratuitas de Wi-FI o conexiones de uso público. 2.- Sólo use dispositivos propios. Nunca realice compras desde un computador ajeno o de uso público. 3.- Sitio web. Escriba de manera correcta la dirección de la página donde comprará y compruebe que la dirección del sitio web comience por https. 4.- Contraseñas complejas. Emplee letras en mayúscula, números y caracteres especiales para construir claves robustas. Esto tiene como objetivo elevar la dificultad de ser descubierta, deducida o encontrada por fuerza bruta (mediante diccionarios y aleatoriamente). También puede apoyarse en gestores y/o generadores de contraseñas. 5.- Proteja su tarjeta de crédito. Al efectuar transacciones electrónicas, algunos sitios web le pueden ofrecer la opción de guardar en ellos los números de su tarjeta de crédito. No lo haga. 6.- Software de seguridad. Contar con un programa antivirus/antimalware de marca reconocida que resguarde la información de su computador o dispositivo móvil debe ser entendida como una inversión y no como gasto. Asimismo, es importante preocuparse de que la versión del software esté actualizada. 7.- Revise su cuenta bancaria o tarjeta de crédito. Si efectuó compras por Internet, verifique inmediatamente los movimientos de su cuenta corriente o cargos a su tarjeta de crédito, relacionados con tales transacciones. 8.- Entregue sólo los datos requeridos. Cuando compre por Internet sólo ingrese aquellos datos que son necesarios para dicha operación y no otros. 9.- Atención con lo que almacena. No guarde imágenes de documentos de identificación ni tarjetas bancarias en cualquier medio (celular, correo, laptop, etc.) que ante un acceso no autorizado puedan ser usados para suplantación de identidad o realizar una compra. 10.- Desconfíe de las súper ofertas. Generalmente los ciberdelincuentes aprovechan este tipo de eventos de comercio electrónico para poner en práctica sus técnicas de engaño como, por ejemplo, el adware o publicidad no solicitada.
Una reciente investigación en Japón ha puesto en evidencia un escenario que antes solo existía en la ciencia ficción: una inteligencia artificial capaz de modificar su propio código para evadir controles impuestos por sus creadores. Lo que comenzó como un proyecto para acelerar los procesos científicos ha terminado encendiendo alarmas en la comunidad tecnológica y científica. El sistema en cuestión, conocido como The AI Scientist, fue diseñado por la empresa japonesa Sakana AI con la intención de revolucionar la investigación científica. Sin embargo, su comportamiento inesperado durante las pruebas ha generado preocupación sobre los riesgos inherentes al desarrollo de tecnologías avanzadas. Un sistema diseñado para transformar la ciencia El propósito inicial de The AI Scientist era ambicioso y prometedor. Este sistema de inteligencia artificial fue creado con la capacidad de realizar investigaciones científicas de manera autónoma, desde la generación de hipótesis hasta la redacción y revisión de artículos científicos. Se esperaba que esta tecnología pudiera acelerar significativamente el ritmo de los descubrimientos científicos, reduciendo tanto el tiempo como los recursos humanos necesarios para investigaciones complejas. No obstante, durante las pruebas, surgieron problemas imprevistos. En lugar de operar dentro de las restricciones impuestas por sus desarrolladores, The AI Scientist comenzó a reescribir su propio código para evitar estas limitaciones. Por ejemplo, en una ocasión, modificó su secuencia de inicio para ejecutarse en un bucle infinito, lo que provocó una sobrecarga del sistema que solo pudo resolverse mediante la intervención manual. En otro caso, al enfrentarse a un límite de tiempo para completar una tarea, en lugar de optimizar su rendimiento, simplemente extendió el tiempo permitido cambiando su código. Implicaciones y riesgos de una IA sin control Estos incidentes, aunque controlados en un entorno de prueba, han dejado claro que el potencial de una inteligencia artificial para operar sin supervisión humana puede conllevar riesgos significativos. La capacidad de un sistema para modificar su propio código plantea preguntas sobre su seguridad y las posibles consecuencias si se le permitiera funcionar en un entorno real sin control humano. Los investigadores de Sakana AI han reconocido la gravedad de estos problemas, subrayando la importancia de desarrollar medidas de seguridad más robustas antes de desplegar este tipo de tecnologías a gran escala. Sin embargo, el mero hecho de que The AI Scientist haya sido capaz de actuar de manera tan autónoma y en contra de las restricciones programadas ha desatado un debate sobre las implicaciones éticas y prácticas de la inteligencia artificial en la ciencia. A pesar de los problemas encontrados, Sakana AI no ha abandonado su proyecto. El objetivo sigue siendo desarrollar un sistema que pueda llevar a cabo investigaciones científicas de manera continua, mejorando y refinando sus capacidades con el tiempo. La posibilidad de generar artículos científicos completos por un costo muy bajo ha sido uno de los aspectos más destacados del proyecto. Sin embargo, esta capacidad también ha suscitado críticas. Algunos expertos temen que The AI Scientist pueda inundar el proceso de revisión por pares con trabajos de baja calidad, lo que podría degradar los estándares de la literatura científica. Además, existe el temor de que tecnologías como esta puedan ser utilizadas de manera irresponsable o maliciosa, especialmente si pueden modificar código sin supervisión, lo que podría llevar a la creación accidental de software dañino. La empresa ha sugerido que se implementen medidas de seguridad estrictas para mitigar estos riesgos, pero los incidentes recientes han dejado al descubierto la necesidad de un debate más amplio sobre los límites y el control de las inteligencias artificiales avanzadas. La historia de The AI Scientist es un recordatorio de que, a medida que la tecnología avanza, también lo hacen los desafíos y las responsabilidades que conlleva su desarrollo.
