사전(후) 학습 자료

<aside> 💡 Knowledge Tracing 분야는 기술적인 사전 지식이 필요합니다. 아래 자료를 한번 확인하시고 오면 좋습니다.

</aside>

• 이론

  • 준오쌤 DKT 기본 강의
    • https://dndrl.notion.site/Deep-Knowledge-Tracing-8bc58113427b450b8135bec20b60d782
  • 용현쌤 SAKT 발제(attention 설명 포함)
    • https://dndrl.notion.site/A-Self-Attentive-model-for-Knowledge-Tracing-8fe716fe9a6e4206a3487da7684305d0
  • 한쌤 GKT 발제(참고)
    • https://dndrl.notion.site/Graph-based-Knowledge-Tracing-Modeling-Student-Proficiency-Using-Graph-Neural-Network-7202eb1905144f63b4a7d430be542e49

• 코드(pytorch)

  • Knowledge tracing 기본 모델(DKT, DKVMN, SAKT, GKT)

    https://github.com/hcnoh/knowledge-tracing-collection-pytorch

  • DKT, DKVMN, SAKT, AKT, CL4KT

    https://github.com/codingchild2424/Deep_knowlege_tracing_baseline

    https://github.com/UpstageAI/cl4kt

  • 저자 AKT

    https://github.com/arghosh/AKT

• 저자 소개 https://arghosh.github.io/

Knowledge Tracing 기본, Attention의 구조

• PPT로 설명

  https://docs.google.com/presentation/d/1LWI1h1wRpuYA6l8uHOI2UGeh6RtJCAT3K6Ot2OIAuME/edit?usp=sharing

AKT의 구조

Whole Architecture

Monotonic Attention

• 32슬라이드부터https://docs.google.com/presentation/d/1LWI1h1wRpuYA6l8uHOI2UGeh6RtJCAT3K6Ot2OIAuME/edit?usp=sharing

  

Rasch Embedding

• IRT에서 가져온 개념
• 논문에서 구현 방법
  • $C_t + q_t * C_t$
    • (개념 임베딩) + (문항에 대한 스칼라) * (개념 임베딩)
  • $CR_t + q_t * CR_t$
    • (개념, 정답 임베딩) + (문항에 대한 스칼라) * (개념, 정답 임베딩)

Dual Encoder and Knowledge retriever

• 인코더1에서는 문항 반응만을 활용하여 로짓 추출
• 인코더2에서는 문항, 정답 반응을 활용하여 로짓 추출
• 인코더 두개에서 나온 로짓을 활용하여 knowledge retriever(구조는 같음)에서 최종 로짓 추출