Punica bündelt Anfragen verschiedener Adapter in einem CUDA-Kernel: 12-facher Durchsatz bei 2 Millisekunden Aufschlag je Token 28. Oktober 2023