AWS에서 드디어 일반에 공개한 Trainium2 칩이 AI 업계에 큰 반향을 일으키고 있습니다. 이번 re:Invent 컨퍼런스에서 발표된 Trainium2 칩은 이전 세대보다 4배 더 빠른 성능을 자랑하며, 16개의 T2 칩으로 구성된 단일 EC2 인스턴스가 최대 20.8 페타플롭스의 컴퓨팅 성능을 제공합니다. 😮 대규모 언어 모델에 최적화된 성능 특히, 이 칩은 Meta의 거대한 Llama 405B 모델의 추론을 수행할 때