El nuevo botín de los piratas informaticos ahora se centra en empresas de IA

Las empresas de IA son el nuevo objetivo de los piratas informáticos

Debido a la reciente brecha en los sistemas de OpenAI, las conversaciones secretas de ChatGPT se vieron afectadas por un ataque de piratas informáticos y, aunque no fue alarmante, parece haber sido solo algo superficial. El incidente pone en el centro a las empresas de inteligencia artificial como y lo convierte en un objetivo atractivo para los ciberdelincuentes.

El New York Times detalló el ataque después de que Leopold Aschenbrenner, un exempleado de OpenAI, lo mencionara en un podcast. Aschenbrenner describió el evento como un «importante incidente de seguridad», aunque fuentes dentro de OpenAI indicaron que los piratas solo accedieron a un foro de discusión para empleados.

Aunque las conversaciones internas de OpenAI tienen un valor, un hacker aún no accedió a los sistemas internos, modelos en desarrollo o planes confidenciales. Sin embargo, este tipo de incidentes generar nerviosismo, no solo por la competencia de países como China, sino porque las empresas de IA guardan una gran cantidad de datos.

Hay tres tipos de datos son especialmente ambiciosos: datos de entrenamiento de alta calidad, masivas interacciones de usuarios y datos de clientes. La exactitud sobre los datos de entrenamiento es incierta, ya que las empresas son reservadas y es erróneo pensar que solo se trata de datos web extraídos. Transformar esos datos en algo útil para entrenar modelos como GPT-4 requiere un esfuerzo parcialmente automatizado y, la calidad del conjunto de datos es crucial para la creación de un modelo de lenguaje superior.

También, los datos de entrenamiento que OpenAI posee son valiosos para competidores y reguladores. La FTC o los tribunales pueden estar interesados en saber qué datos utiliza y si OpenAI es transparente. De la misma manera, los datos de usuarios donde, allí hay miles de millones de conversaciones con ChatGPT sobre innumerables temas.

Igualmente, las conversaciones con la IA de ChatGPT proporciona mejores detalles que las búsquedas en Google y ofrece una visión completa de los usuarios. La última categoría de datos, quizás la más crucial en el mercado abierto, es sobre como los clientes usan la IA y los datos que introducen en los modelos. Grandes y pequeñas empresas utilizan esta herramienta de IA para realizar distintas tareas, ajustando los modelos a sus bases de datos internas.

Esto incluye planillas presupuestarias hasta código de software no publicado dándole al proveedor de IA un acceso privilegiado similar al de cualquier producto SaaS. Los secretos industriales están en manos de las empresas de inteligencia artificial quienes se están enfrentando a riesgos especiales debido a la falta de estandarización y comprensión completa de los procesos de IA.

Sin embargo, las empresas de IA proporcionan niveles de seguridad y privacidad estándar, el valor de los datos que protegen es un objetivo atractivo para los piratas informáticos. La seguridad informática toma una relevancia no vista anteriormente, no se trata solo de configuraciones correctas o software actualizado, sino que es un juego constante entre los piratas informáticos y las compañías, ahora potenciadas por la IA.

NotiPress