Sí. También abogamos por prohibir la investigación.

No nos alegra decirlo. Se perdería algo si se volviera ilegal que los particulares poseyeran más de (digamos) ocho GPU H100 de 2024.

Pero no se perdería tanto como para que la humanidad debiera averiguar exactamente qué tamaño puede tener un centro de datos antes de que se convierta en un riesgo. Poner un límite demasiado bajo por precaución significa que algunas personas se verían obstaculizadas en su capacidad para avanzar en proyectos interesantes. Poner uno demasiado alto significa que todo el mundo muere.

Además, este régimen en el que la IA requiere enormes cantidades de poder de cómputo para su desarrollo no durará para siempre. Hoy en día existen los LLM. Incluso si se prohibiera tanto desarrollar modelos nuevos como acumular enormes cantidades de poder de cómputo, en principio, se podría estudiar su funcionamiento interno y extraer algunas ideas sobre cómo funciona la inteligencia, ideas que podrían ayudar a inventar algoritmos más eficientes capaces de eludir los intentos de supervisión.