9주차: 시퀀스 모델링과 트랜스포머의 등장

이번 주차

시퀀스 모델링과 트랜스포머의 등장

온라인 (2시수)

RNN·LSTM의 원리와 한계, 어텐션의 직관, 트랜스포머 구조 강의 / 학습활동 - 긴 문장에서 대명사가 무엇을 가리키는지 표시하고 어디를 봐야 알 수 있는지 기록

대면 (1시수)

어텐션 가중치 시각화 실습, 빈칸 채우기 데모 체험

학습활동

[이론] 수식 없이 구조도 중심으로 설명. 어텐션을 “중요한 단어에 집중”으로 설명해도 정답임을 명시(설계도 §기준)

[구현] 제공된 노트북을 실행해 어텐션 가중치를 시각화하고, 학생이 표시한 참조 지점과 비교

[실무] 긴 문서를 다루는 서비스가 왜 어려운지, 어디서 문맥을 놓치는지 사례로 관찰. 제주 행정·정책 안내 문서처럼 길고 조건이 많은 글을 대상으로 〔공공데이터포털에서 확보〕

실습 노트북

준비 중입니다. 올라오면 이 자리에 Colab 링크가 표시됩니다.