Reto de ingeniería

El problema central consistía en adaptar la multiplicación de matrices densas a un procesador cuyo rendimiento útil depende del movimiento explícito de datos. Un triple bucle matemáticamente correcto no determina dónde residen sus operandos, cómo llegan a los registros ni cuánto tiempo consumen el empaquetado y las transferencias. En un sistema embebido pequeño, esas decisiones pueden dominar la ejecución.

GEMM resulta relevante porque una convolución puede transformarse en multiplicación de matrices, de modo que un núcleo cuidadosamente diseñado puede servir a muchas capas de una red neuronal. El proyecto se centra en la multiplicación densa clásica y en sus costes de implementación. Reducir el exponente asintótico de la multiplicación de matrices es otra cuestión de investigación; aquí el objetivo práctico consiste en reutilizar los operandos dentro de una jerarquía de memoria limitada.

Esta investigación se realizó en colaboración con Jie Lei, bajo la supervisión de Enrique Quintana y Adrián Castelló, conservando la atribución del artículo técnico original. La publicación relacionada de 2022 tiene como autores a Cristian Ramírez, Adrián Castelló y Enrique S. Quintana-Ortí. Leer la publicación científica.

Leer el análisis técnico en profundidad para consultar las matemáticas, los ejemplos portables, la planificación de DMA y las derivaciones de Roofline.

Hardware y unidad de ejecución

GAP8 contiene un Fabric Controller (FC), un clúster de cómputo independiente de ocho núcleos y un acelerador de convoluciones. Estos componentes comparten una memoria L2 de 512 kB. El FC dispone de una TCDM L1 propia de 16 kB; el clúster dispone de otra TCDM L1, compartida y organizada en bancos, de 64 kB. Estas capacidades corresponden a dominios de memoria diferentes: el almacenamiento del clúster no constituye el presupuesto privado del FC. El procesador también tiene cachés de instrucciones; sus memorias de datos gestionadas explícitamente no deben confundirse con las cachés de datos de una CPU convencional. Estas distinciones se basan en el Hardware Reference Manual de GreenWaves, §§3.1–3.2.

La implementación y los experimentos de 2022 se ejecutan en el FC, en lugar de constituir un GEMM paralelo de ocho núcleos. Trasladar el trabajo al clúster requiere otra implementación y otra evaluación, aunque los núcleos compartan características arquitectónicas. La RAM externa introduce un límite adicional cuyos costes de transferencia y empaquetado deben incluirse en una medición completa. Publicación, §§1 y 3.

GEMM adaptado a una jerarquía de memoria RISC-V / GAP8GEMM · CómputoMemoria scratchpad localMemoria externaDMA

De la organización de BLIS a un núcleo para GAP8

El diseño parte de BLIS: dividir el producto matricial en paneles reutilizables, separar el empaquetado del cálculo y concentrar la aritmética específica de la arquitectura en un microkernel. El empaquetado cambia la disposición física para que el cálculo interno consuma grupos contiguos de operandos. Introduce lecturas, escrituras y almacenamiento temporal adicionales, por lo que debe justificarse mediante la reutilización.

La implementación pública relevante utiliza el nombre B3C2A0. Su organización empaqueta B en memoria externa, mantiene un bloque de C en L2, copia un micropanel de B hacia la L1 del FC y conserva un microbloque de A en registros de 32 bits con operandos empaquetados. El código del macrokernel concreta estas ubicaciones. Se trata de una adaptación inspirada en BLIS; no implica que un núcleo de BLIS para equipos de escritorio resulte adecuado para GAP8 sin modificaciones.

Esta disposición también muestra un compromiso. Mantener A cerca de la aritmética reduce parte del tráfico de entrada, pero actualizar C repetidamente a través de L2 puede seguir siendo costoso. Por tanto, un núcleo aritmético que utiliza bien los registros no garantiza por sí solo un GEMM completo eficiente.

Qué demuestra el código público

El README de qblis_gpduino identifica explícitamente el artículo de 2022 como su descripción y evaluación. Esto establece una relación directa. La revisión inspeccionada es 53f8bc6187470a435c501fbfb6ef58267c431b75; no se presenta como una copia exacta, bit a bit, de la compilación experimental.

Los archivos contienen microkernels 4×4, 4×8 y 4×12, llamadas a gap8_dotp4, rutinas de empaquetado y copias explícitas de RAM. El Makefile versionado selecciona mk_4x4, lo que muestra por qué deben distinguirse los núcleos disponibles de la configuración activa del experimento.

El nombre de una función auxiliar no demuestra que se ejecute una sola instrucción de hardware. La publicación describe la simulación por software de los productos escalares vectoriales en su SDK, mientras que la cabecera del SDK oficial contiene funciones incorporadas para el destino y una alternativa escalar. Para resolver el comportamiento de una compilación concreta hacen falta el compilador exacto, las definiciones del destino y el desensamblado.

La semántica numérica también exige cuidado: la configuración signed char del repositorio utiliza resultados almacenados de anchura reducida. No debe anunciarse como una biblioteca verificada de entradas INT8 y acumuladores INT32. El artículo educativo aborda por separado la acumulación de mayor anchura, el desbordamiento y la conversión explícita de salida, sin atribuirlos a este código histórico.

Gestión de memoria y límites de la optimización

La implementación inspeccionada empaqueta y copia los datos antes de consumirlos; la ruta del panel de B pasa por un almacenamiento temporal en L2 antes de copiarse a la TCDM del FC. Estos buffers intermedios contribuyen a las necesidades de capacidad y al coste de transferencia. Una adaptación reproducible debe reservar espacio para código, pila y asignaciones del entorno de ejecución, además de los paneles matriciales. Código de asignación y transferencia.

El doble buffer es una extensión útil para estudiar: separar los buffers actual y siguiente puede permitir solapar transferencia y cálculo. Añade almacenamiento, sincronización y restricciones de propiedad. Aquí se presenta como una propuesta de optimización, no como un resultado demostrado de la implementación de 2022. La misma distinción se aplica a la descomposición multinúcleo. El artículo original identifica el solapamiento y el uso del clúster como trabajo futuro.

Evidencia experimental

La publicación separa empaquetado, copias, tráfico con registros y aritmética. Para su caso M=1792, N=1536, K=1024 con un microkernel 4×12, informa de 159.13 segundos totales y etiqueta el rendimiento como 33.8 MOPS, frente a 76.7 MOPS para el componente exclusivamente aritmético. Son resultados publicados, no mediciones reproducidas en el equipo que aloja este portafolio. El valor impreso 33.8 es compatible con dividir 2MNK/tiempo entre 2^20, en lugar del factor decimal 10^6; aquí se conservan las etiquetas originales. El rendimiento entero no debe etiquetarse como FLOP/s. Publicación, §4 y Tabla 1.

El hallazgo de ingeniería es la diferencia entre el cálculo completo y el componente exclusivamente aritmético: el movimiento de datos, especialmente el tráfico de C, debe abordarse junto con el rendimiento de las instrucciones. La estimación del artículo para 4×16 es una predicción analítica, por lo que no se incluye como mejora medida. Aquí no se añade ninguna afirmación nueva de aceleración, ahorro energético ni rendimiento por vatio.

Una nueva evaluación debería fijar las revisiones del código y del SDK, registrar el reloj del FC y las opciones del compilador, especificar dimensiones, disposiciones y comportamiento numérico, y validar las salidas antes de medir. Debería documentar calentamiento, repeticiones, sobrecarga del temporizador y variabilidad, y mostrar tanto el tiempo total como su desglose en empaquetado, transferencia y cálculo. Un ejecutable de pruebas por sí solo no constituye un paquete de reproducibilidad.

Alcance e investigación relacionada

El proyecto demuestra cómo interactúan la estructura del algoritmo, la ubicación de los operandos y los límites de medición. El artículo asociado amplía ese razonamiento mediante ejemplos educativos portables y modelos analíticos explícitos. Esos ejemplos y las planificaciones propuestas no se presentan como nuevos núcleos medidos en GAP8. El rendimiento de GPU y el de otros procesadores RISC-V requieren evidencia propia.