Sebastian Raschka
Summary
독일계 미국 LLM 연구자·교육자. 뉴스레터 Ahead of AI (magazine.sebastianraschka.com) 에서 LLM 아키텍처·학습 기법·코딩 에이전트 주제 deep-dive 를 정기 발행. “Build a Large Language Model from Scratch” 저자. 본 위키에서는 아키텍처·하네스 관점의 실무 해설 출처로 쓰인다 (3 sources).
독일계 미국 LLM 연구자·교육자. 뉴스레터 Ahead of AI (magazine.sebastianraschka.com) 에서 LLM 아키텍처·학습 기법·코딩 에이전트 주제 deep-dive 를 정기 발행. “Build a Large Language Model from Scratch” 저자. 본 위키에서는 아키텍처·하네스 관점의 실무 해설 출처로 쓰인다 (3 sources).
개요
Sebastian Raschka 는 LLM 의 학습 원리·아키텍처·주변 시스템 을 직접 구현해 해설하는 교육자 포지션의 연구자. 뉴스레터는 논문 서베이 · 시각화 · 실습 코드를 혼합한 포맷으로, 모델 내부 구조에 관심 있는 엔지니어/학생이 주 독자.
본 위키 컨텍스트에서는:
- 코딩 에이전트의 harness 관점 정의: “모델 위의 레이어 — what to inspect · which tools to call · how to update state · when to stop” 6대 빌딩 블록 (Repo Context, Tool Use, Memory, Delegation 외 2개) — harness-engineering 의 Raschka 해석본 (출처: sebastianraschka-components-coding-agent)
- LLM 이해 학습 워크플로 체계화: 실제로 단계 밟아보기 권장 — 교육자 관점 실전 가이드 (출처: sebastianraschka-workflow-understanding-llms)
- Attention 변형 시각 정리: Full Attention O(n²) · Multi-Head · Grouped Query · Multi-head Latent · Sparse · Hybrid attention 아키텍처 체계 (출처: sebastianraschka-visual-attention-variants)
주요 사실
- 2026-04-04: “Components of A Coding Agent” 발행 — 모델 성능은 모델 단독이 아닌 전체 시스템(하네스) 의 함수 라는 명제 (출처: sebastianraschka-components-coding-agent)
- 2026-03-22: “A Visual Guide to Attention Variants in Modern LLMs” — MHA / GQA / MLA / sparse / hybrid attention 시각 가이드 (출처: sebastianraschka-visual-attention-variants)
- 2026-04-18: “My Workflow for Understanding LLM Architectures” — 신규 open-weight 모델 릴리즈 이해를 위한 실천 워크플로 (출처: sebastianraschka-workflow-understanding-llms)
- 정기 발행 뉴스레터 Ahead of AI — 월 1-2회 기술 deep-dive
관련 개념
- harness-engineering — Raschka 의 “6 컴포넌트” 정의가 본 위키의 hero concept 과 직접 대응 (what/which/how/when 프레임)
- rag — attention 변형 시각 가이드에서 sparse/hybrid attention 이 long context vs retrieval 논쟁과 연결
관련 엔티티
- claude-code — “Components of A Coding Agent” 가 Claude Code 같은 구체 구현체를 추상화한 해석
- openai-codex — 동일 범주 비교 대상
- anthropic — Claude 모델의 attention 변형이 Raschka 의 분류 체계에서 언급
소스
- sebastianraschka-workflow-understanding-llms (2026-04-18)
- sebastianraschka-components-coding-agent (2026-04-04)
- sebastianraschka-visual-attention-variants (2026-03-22)