La inteligencia artificial debe tener cuidado con las trampas de datos
En la actualidad, la inteligencia artificial puede analizar y procesar datos mucho más rápido que los analistas humanos. Puede encontrar patrones y reglas de comportamiento que son difíciles de encontrar para el cerebro humano, pero también puede cometer errores que el cerebro humano. no puedo hacer. La razón es que los algoritmos de aprendizaje automático deben depender de grandes cantidades de datos para su entrenamiento. Los datos son para la inteligencia artificial lo que la sangre para los humanos. Disfrutar de los datos es más difícil que diseñar algoritmos. Si el conjunto de datos es demasiado pequeño, los datos son inexactos o el oponente los manipula maliciosamente, el efecto del aprendizaje automático se reducirá considerablemente e incluso puede ser engañoso y juzgado erróneamente. Especialmente en los campos militar y de seguridad nacional, los datos dañinos pueden tener graves consecuencias. Una vez que el oponente domina el conjunto de datos de entrenamiento de inteligencia artificial, el oponente diseñará trampas de datos, hará trampa, proporcionará datos falsos e inducirá a la inteligencia artificial a aprender datos incorrectos. Es más, debido a que el funcionamiento interno de los algoritmos de aprendizaje automático es oscuro y difícil de entender, la gente generalmente no sabe por qué la inteligencia artificial comete errores, especialmente cuando no hay consecuencias catastróficas. Incluso es difícil detectar los errores de la inteligencia artificial. Sentirse perdido en una trampa de datos.
Entonces, ¿cómo evitar las trampas de datos? En primer lugar, se requiere la intervención del cerebro humano. Sólo los humanos tienen la capacidad de clasificar y etiquetar datos, por lo que no podemos simplemente arrojar datos a algoritmos de máquinas y esperar que la inteligencia artificial pueda resolver todos los problemas sin la intervención del cerebro humano. Si solo proporciona una gran cantidad de datos y carece de un "cerebro inteligente" que pueda distinguir los datos, entonces la inteligencia artificial solo puede proporcionar respuestas mecánicas, no las respuestas correctas que las personas necesitan. La intervención del cerebro humano no sólo puede garantizar que la inteligencia artificial obtenga los datos correctos, sino también comprobar si está aprendiendo los datos correctos. En segundo lugar, crear un equipo interprofesional. Los “cerebros inteligentes” que puedan evitar los problemas de los datos deben provenir de equipos interdisciplinarios, expertos en informática, programadores, expertos en big data y expertos en inteligencia artificial deben trabajar en estrecha colaboración con profesionales experimentados en campos relacionados. En el futuro, a medida que la inteligencia artificial continúe desarrollándose y madurando, podrá proporcionar información en tiempo real directamente a los combatientes, lo que requiere que los combatientes proporcionen continuamente retroalimentación al equipo del "cerebro inteligente" para actualizar y corregir datos en un manera oportuna. En tercer lugar, la verificación cruzada de datos de múltiples fuentes. Cuando se utilizan sensores para detectar objetivos, es fácil dejarse engañar por los adversarios. Por lo tanto, es necesario utilizar múltiples sensores como visión, radar e infrarrojos para detectar el mismo objetivo, y comparar y verificar datos de diferentes fuentes para identificar la autenticidad y descubrir estafas ocultas. Además, los datos etiquetados están clasificados. Actualmente, incluso la inteligencia artificial avanzada comete errores absurdamente estúpidos, incluso confundiendo un cepillo de dientes con un bate de béisbol. Por lo tanto, es imposible proporcionar datos sin procesar para el aprendizaje automático, especialmente en las etapas iniciales de capacitación. Para comprobar si las conclusiones de la inteligencia artificial son correctas y garantizar la precisión y eficiencia de la toma de decisiones asistida por inteligencia artificial, es necesario proporcionar a los algoritmos de las máquinas datos reales correctamente clasificados y etiquetados. Finalmente, tomemos como ejemplo el aprendizaje contradictorio. Forme un ejército azul inteligente, desarrolle oponentes con inteligencia artificial, permita que las inteligencias artificiales rivales y opuestas compitan entre sí, lleve a cabo un aprendizaje adversario en el proceso de confrontar la sabiduría, mejore la capacidad de identificar trampas de datos en el aprendizaje adversario y gane con sabiduría. En resumen, la inteligencia artificial actual es inseparable del control del cerebro humano y evitar las trampas de datos depende, en última instancia, de la experiencia y la sabiduría humanas.