por Case »
02 Sep 2022, 18:20
Trasgus. escribió:Case escribió:Trasgus. escribió:
Dos apuntes :
* Que feo queda eso de un país libremercadista prohibiendo algo sobre el mercado, parece la urss.
* ¿lo van a cumplir? O van a buscar aquella filial que opera en Bangladesh que tiene un contenedor que viaja a Taiwán y rebota a Shanghai.
En la cantidad que necesitan chips, el menudeo no sirve. Los entrenamientos de modelos grandes son masivos, y el usar GPUs es por como gestiona el paralelismo y tener miles y miles trabajando a la vez.
A usa se le va poniendo cara de la URSS a toda velocidad.
Empezamos así en el hilo de Ucrania y el del covid, tu hacías la coña y yo respondía preocupado. Pues está noticia me preocupa lo mismo que esas dos. Es una declaración más fuerte que la visita de Pelosi. He dicho carrera espacial, pero la carrera por IA es una carrera a medio camino entre la espacial y la nuclear.
Reconozco que en el covid hice la coña, en el de Ucrania pregunte sinceramente si íbamos a ver una guerra de verdad y me dijiste que podría ser, y tomé nota, aunque no te lo creas y aunque piense cosas diferentes a las tuyas te respeto bastante.
Y claro que es preocupante la deriva de Estados Unidos que no se sabe muy bien a qué juega.
Descozco cuál es el montante total de tarjetas gráficas que venden a China pero tengo entendido que con esto del minado de bitcoins y demás hay millones de tarjetas gráficas tiradas por el mundo a las que puedes acceder y conozco el poder del dinero, quien le quita a El Salvador a comprar x tarjetas gráfica y después mandarlas a los chinos, los norcoreanos andan cargando contenedores en alta mar, los pedidos se pierden.
El gobierno prohíbe algo a su empresa pero si su empresa no está por la labor de cooperar las tarjetas llegarán a China, negocio es negocio y si no, siempre quedará el método chino, espionaje, retro ingeniería y a producir sus propias tarjetas.
Vamos, creo sinceramente que encontrarán la manera de saltarse la prohibición, hablamos de China, no de Iran o Norcorea, tiene "aliados" de sobra, con dinero se consigue lo que quieres y con esto, EEUU solo habrá conseguido cabrear (un poco mas) a su rival en la partida de risk.
Terminaremos viendo la partida de Juegos de Guerra, espero que los chinos también jueguen al "3 en raya" y sus IAs comprendan que la guerra thermonuclear es el fin del la partida en tablas por falta de material.
No pretendía ser un adhominem, perdona si te ha molestado, solo lo he citado porque me parece ESE tipo de problemas.
Mi eficacia mía como oraculo tampoco es que sea brillante, para superpronosticador de tetlock no sirvo, pero espero al menos estar entre los chimpancés y los políticos.( Y si, acertaban más los chimpancés). Hay textos míos en 2009 sobre el peligro de la gripe H1N1 que se quedó en nada, y en 2012 como la inflación por las QE estaba al llegar... Y no llego hasta una década después por un crisis de oferta.
China por retroingenieria se ha filtrado que ya es capaz de hacer chips de 7nm. Pero aquí no es sólo el chip sino el ensamblaje y el tipo de procesador. Los chips de las GPUs no necesitan menos de 10 nm, es mas importante la arquitectura como que por ejemplo, tengan tensor cores como hace nvidia.
Tensor cores se diseña para el cálculo de operaciones matriciales, que el backpropagation de las redes no deja de ser operaciones con matrices. El resultado de muchas técnicas de machines learning al final es una matriz de pesos de activación de las neuronas.
Las GPUs generalistas que se usan para el minado de Bitcoin, no necesitan eso para nada y no están especializadas para el propósito. Con la cantidad de cálculos que necesitas, la tendencia es hacer arquitecturas de procesadores ad hoc para redes neuronales. Lo ha hecho Nvidia, lo ha hecho AMD, Google y Tesla. Las únicas que se venden son las dos primeras. (Google lo deja como servicio en la nube)
Que puedes pasar 5 años en crear tu propia arquitectura, y para entonces has perdido completamente el tren. Intel estaba feliz con las CPU, y ha quedado fuera de juego en este sector.
Pd: Si hay algún experto de verdad, ya vendrá a decirme que me estoy dejando lo FPGA y el Edge AI, pero creo que ya es denso y poco inteligible de por sí.
[img]http://archivodenessus.com/imagenes/2006/sig_occam.gif[/img]
Si eres persona, es decir propietario, ley antidesahucio.
Si no eres persona, es decir inquilino, ley de desahucio express.
