Conclusions and Further Reading

Part 11 of How To Scale Your Model (Part 10: JAX | Part 12: GPUs)

읽어주셔서 감사합니다! 여기에 추가 학습을 위한 몇 가지 참조 자료를 포함하겠습니다.

번역 안내: 원저자(Jacob Austin)의 허락을 받아 원문을 번역 중입니다.
해당 글의 1인칭은 원문 저자를 지칭합니다.
원문: How to Scale Your Model
번역: 신종훈

이 에세이 시리즈를 읽어주셔서 감사하며 끝까지 함께해주신 것을 축하드립니다. 결론을 내리기 전에 몇 가지 감사의 말씀을 드립니다:

Acknowledgments

이 문서는 Google DeepMind의 많은 분들의 상당한 집단적 투자를 나타내며, 이분들께 감사를 표하고 싶습니다!

또한 프로세스 전반에 걸쳐 비판적인 피드백을 주신 많은 분들, 특히 Zak Stone, Nikhil Sethi, Caitlin Stanton, Alek Dimitriev, Sridhar Lakshmanamurthy, Albert Magyar, Diwakar Gupta, Jeff Dean, Corry Wang, Matt Johnson, Peter Hawkins 외 많은 분들께 감사드립니다. HTML 서식 지정에 도움을 준 Ruiqi Gao에게도 감사드립니다.

모두 감사합니다!

가시기 전에 NVIDIA GPU에 관한 새로운 12장도 읽어보시면 좋을 것 같습니다!

Further Reading

관련된 글들이 많이 있습니다:

이 분야에는 포괄적인 글을 쓸 여지가 여전히 많으므로, 이 원고가 더 많은 글을 장려하기를 바랍니다! 또한 우리는 이것이 연구하고 조사하기에 유익한 분야라고 믿습니다. 많은 경우 하드웨어 가속기가 많이 없어도 수행할 수 있습니다.

Feedback

더 개선할 수 있도록 의견이나 질문을 남겨주세요. 교신 저자인 Jacob Austin에게 jacobaustin123 [at] gmail [dot] com으로 연락하거나 GitHub에 문제, 풀 리퀘스트 또는 토론을 게시하여 편집을 제안할 수 있습니다.

Miscellaneous

*Work done at Google DeepMind, now at MatX.

Citation

For attribution in academic contexts, please cite this work as:

    Austin et al., "How to Scale Your Model", Google DeepMind, online, 2025.

or as a BibTeX entry:

    @article{scaling-book,
      title = {How to Scale Your Model},
      author = {Austin, Jacob and Douglas, Sholto and Frostig, Roy and Levskaya, Anselm and Chen, Charlie and Vikram, Sharad
      and Lebron, Federico and Choy, Peter and Ramasesh, Vinay and Webson, Albert and Pope, Reiner},
      publisher = {Google DeepMind},
      howpublished = {Online},
      note = {Retrieved from https://jax-ml.github.io/scaling-book/},
      year = {2025}
    }