Los expertos en seguridad cibernética dicen que el gobierno federal debería considerar prohibir un controvertido chatbot de IA con orígenes chinos en todos los dispositivos australianos, advirtiendo que plantea un “riesgo único” para la seguridad nacional.
Deepseek AI fue expulsado de todos los dispositivos gubernamentales el mes pasado, después de que una directiva de las agencias de seguridad e inteligencia de la Australia Australia descubrió que el chatbot puso en riesgo el “patrimonio tecnológico” federal.
La tecnología se produjo en la ciudad de Hangzhou en China y se ejecuta a una fracción del precio de otros productos de IA.
La conexión de Deepseek AI con China ha planteado preguntas de seguridad en los círculos de inteligencia australianos. (Reuters: Dado Ruvic)
Las agencias de seguridad nacional de Australia han advertido que debido a que Deepseek AI está sujeta a las leyes de recopilación de datos chinas, la aplicación tiene que dar a la Partido Comunista Chino acceso a cualquier información que recopile.
Como resultado, las agencias de seguridad dijeron que les preocupaba Deepseek Ai no podía proteger adecuadamente los datos australianos, podría ayudar a identificar al private del gobierno y que podían usarse contra los intereses nacionales de Australia.
La prohibición de toda la tecnología gubernamental atrajo las críticas del embajador chino y del Ministerio de Relaciones Exteriores chinas, que lo calificaron como “politización de los problemas económicos, comerciales y tecnológicos”.
Pero algunos expertos en seguridad cibernética dijeron que les preocupaba que no llegue lo suficientemente lejos.
Luke Roache es el director comercial de la firma de seguridad cibernética CyberCX.
Luke Roache, Director Comercial de CyberCX. (LinkedIn)
“Cualquier pieza de tecnología conectada que se produzca y mantenga una conexión a Web con un estado autoritario como China presenta un riesgo único”, dijo.
¿Por qué debería el cuidado promedio de Australia?
Un chatbot related a ChatGPT, Deepseek AI utiliza un lenguaje de conversación para interactuar con un usuario, y puede usarse para recopilar información y responder preguntas con datos que reúne de Web y otros usuarios.
De acuerdo a a sus políticas de privacidad, Deepseek recoge:
- Tu correo electrónico
- Número de teléfono
- Fecha de nacimiento
- Historia de chat
- Patrones de pulsación de teclas
- Tu dirección IP
- El modelo de tu teléfono
Sus políticas de recopilación de datos han atraído las preocupaciones de las agencias nacionales, así como las de las personas en el extranjero.
Países como Taiwán, Estados Unidos e India han prohibido la aplicación de los dispositivos gubernamentales, mientras que Corea del Sur e Italia han dado el paso sin precedentes para bloquear también los veteranos profundos de sus tiendas de aplicaciones.
¿Deepseek Ai ha hecho algo para abordar las preocupaciones?
El Departamento de Asuntos del Inside dijo el mes pasado que esperaba hablar con la compañía para abordar sus preocupaciones en torno a la seguridad de los datos.
Sin embargo, un portavoz le dijo al ABC:
“El departamento … no ha recibido ninguna comunicación formal de Deepseek”, dijeron.
“El Gobierno continúa evaluando la configuración de la política de seguridad tecnológica de Australia para garantizar que permanezcan adecuados para su propósito”.
El departamento no respondió a las preguntas sobre si planeaba seguir el ejemplo de Italia y Corea del Sur, prohibiendo la aplicación de todos los dispositivos australianos
“Cualquier decisión adicional tomada por el gobierno australiano se basará en el interés nacional y el asesoramiento de las agencias de seguridad e inteligencia”, dijo.
Sin embargo, extender la prohibición a todos los dispositivos australianos ya es una opción que se discute por expertos en ciberseguridad.
El ex asesor nacional de ciberseguridad del gobierno federal, Alastair Macgibbon, dijo a la revisión financiera que la prohibición de los dispositivos gubernamentales fue un “buen primer paso”, pero tenía que ir más allá.
“Hay una variedad de reguladores, ya sea el [Australian Prudential Regulation Authority] Para los bancos o el Departamento de Asuntos del Inside de las compañías de telecomunicaciones, y deben emitir órdenes de prohibición a esas entidades críticas de infraestructura si pueden, y si no pueden, deberían informar muy bien que hagan lo mismo “, dijo.
¿Una prohibición pública haría algo?
El experto en ciberseguridad de la Universidad de Sydney, Jonathan Kummerfeld, dijo que prohibir la aplicación en todos los dispositivos australianos tendría poco impacto.
“Prohibir la aplicación para los consumidores no impediría que las personas usen el servicio yendo al sitio internet y charlen con ella allí, por lo que si bien sería una señal de preocupación, el impacto puede ser limitado”, dijo el Dr. Kummerfeld.
“En el caso del gobierno, también pueden bloquear el acceso al sitio internet, pero no tenemos un firewall en todo el país que pueda usarse para limitar el acceso.
El Dr. Jonathan Kummerfeld es profesor titular de la Escuela de Informática de la Universidad de Sydney. (Universidad de Sydney)
“Y si tuviéramos una manera de limitar el acceso a los sitios internet, habría preocupaciones sobre cómo podría usarse mal limitar el discurso”.
Sin embargo, Dana McKay, profesora de la RMIT College of Computing Applied sciences, dijo que podía ver el beneficio de una prohibición más amplia.
“Desde una perspectiva de seguridad nacional, todavía puedo ver un buen argumento para la prohibición”, dijo.
“Una de las cosas que recopila Deepseek es una dirección IP, que les cube de dónde se está conectando su dispositivo.
“Existe una buena posibilidad de que puedan usar esta información para determinar cuándo alguien se está conectando desde un dispositivo gubernamental y, por lo tanto, sabe que, al menos potencialmente, están haciendo el trabajo del gobierno.
Dra Dana McKay de RMIT. (Rmit)
“Lo que buscan se puede utilizar para comprender qué políticas se están considerando, incluso bajo envío, por ejemplo”.
Aunque el Dr. McKay dijo que esto no period un problema restringido a Deepseek.
“Esto sigue siendo un problema con otras compañías de inteligencia synthetic, pero podemos hacer leyes sobre lo que las empresas hacen con nuestros datos, menos con otros gobiernos, y Deepseek tiene que seguir la ley china, permitiendo que el acceso al gobierno sea el acceso.
“Otra escapatoria es que Deepseek recolecte patrones de pulsación de teclas, que son como una huella digital, lo que podría permitirles identificar a un trabajador gubernamental fuera del trabajo.
“Si ese trabajador del gobierno busca algo realmente desagradable, existe el potencial de que esa persona se apoye”.
Una advertencia marcada
CyberCX aconsejó al gobierno sobre la prohibición, y Roache dijo que había un fuerte argumento para extender su alcance.
“Tales tecnologías están sujetas a la dirección y el management del aparato de inteligencia de ese estado”, dijo.
“Pueden ser interrumpidos o apagados, convertirse en herramientas de vigilancia o usarse como herramientas de influencia para lograr resultados estratégicos”.
Dijo que los riesgos de la IA profunda eran claros y que los gobiernos deberían extender la prohibición a la infraestructura crítica, como las redes de telecomunicaciones, los hospitales y los aeropuertos.
“Estas organizaciones ya están bajo un ataque constante por ciberdelincuentes y grupos de estado-estado de motivación financiera”.
Dijo Roache.
“Dada la procedencia de Deepseek y su conexión continua con un estado autoritario, los riesgos asociados con la integridad, la influencia y la media de espionaje introducir la aplicación en cualquier purple de importancia nacional sería una bendición potencial para las ambiciones estratégicas del estado chino”.
