Tag: local attention

Beiträge mit dem Schlagwort „local attention“

Google releaseiert Gemma 2 in 9B und 27B mit alternierenden lokalen und globalen Aufmerksamkeit – Inference-Kosten um etwa halb so hoch wie Gemma 1

27. Juni 2024