[딥러닝] 논문 리뷰 작성할 때 목차 table of contents 추천

 

[딥러닝] 논문 리뷰 작성할 때 목차 table of contents 추천 

 

인공지능과 머신러닝을 공부할 때 논문은 필수로 거치는 과정입니다. 특히 스터디나 연구를 진행할 때 논문 리뷰 발표를 진행하는 경우가 많습니다. 이때 여러 시행착오를 거쳐서 느꼈던 순서와 논문 리뷰에 포함하면 좋을 내용들이 있었는데, 이번 글에서 정리해보고자 합니다. 

 

 

-1. Title
0. Table of Contents
1. Introduction 
2. Related Work
3. Method / Methodology / Proposed Work
4. Experiments
5. Summary / Discussion / Limitation
6. +Appendix

 

 

 

-1. 제목

가장 첫번째 페이지는 제목 페이지입니다.

제목 페이지에는 Paper Title, Present Name, 발표 날짜, 그리고 발표자 이름으로 구성되어 있습니다. 

 

이미지처럼 가장 큰 글씨로 논문 제목,

아래에 논문과 관련된 정보인 1.저자와 2.발표된 학회 그리고 3.논문이 발표된 연도 를 추가해도 좋습니다. 

 

가장 아래에는 보통 소속 / 발표 날짜 / 발표자 이름(자신) 을 적습니다.  

 

발표 날짜는 크게 3가지 이유로 적는 편입니다. 먼저 발표가 언제 이루어졌는지 알면, 이후 복기 시 어떤 이벤트로 발표가 진행되었는지 파악하기 쉽기 때문입니다. 두번째 이유는 발표 당시 공개되지 않았던 정보가 있을 수 있기 때문에 그 선후 관계를 파악하기 위해서입니다. 마지막으로 발표를 다시 활용하거나, 업데이트 해야 하는 경우, 날짜로 버전 관리 하기가 용이하기 때문입니다.

 

사실 무엇보다도 날짜를 추가하는게 발표 날을 의식하고 적어야 하는 점에서 디테일 점수에 가점되기 때문에 되도록 추가하는 편입니다. 

 

 

 

0. 목차 

두번째는 목차 페이지입니다. 분량에 따라 다르지만 

 

 

0. Table of Contents

1. Introduction 

2. Related Work
3. Method / Methodology / Proposed Work

4. Experiments
5. Summary / Discussion / Limitation

6. +Appendix

 

로 구성되어 있고 

오늘 글도 이 순서로 글이 작성되어 있습니다. 

 

 

 

 

 

1. Introduction / Motivation

Introduction 인트로 섹션에서는 연구가 진행된 배경에 대해서 언급합니다. 연구가 해결하고자 하는 태스크와 그 문제가 중요한 이유를 설명하는 것이 가장 주된 흐름입니다. 

 

예를 들어 residual connection을 제안한 ResNet 논문의 경우 introduction에서는 deep layer가 쌓이더라도 error rate가 정체되는 현상을 제기할 수 있습니다. 이처럼 Introduction에서는 연구가 진행된 배경과 그 연구가 해결하고 싶은 Main problem / motivation을 제시해야 합니다. 

 

 

Introduction에서 여러 용어를 정확히 정의해주는 것도 좋습니다. Problem과 관련된 keyword가 있으면 그것의 정의와, 이후 여러 식에 서 쓰이는 기호들에 대한 명칭, 뜻을 precise 정확하게 정리해줍니다. 

 

 

 

 

2. Related Work

Related Work 전임 연구 센션에서는 구성하는 방향이 두 가지 있습니다. 

 

먼저 만약 해당 모델은 predecessor 즉 전임자, 배경이 되는 베이스라인 모델이 있다면 그 모델을 설명하는 것이 좋습니다. 예를 들어 어떤 모델 B가 A 모델에 한 모듈을 더해 좋은 성능을 얻었다면, A 모델에 대해 설명하는 것이 좋습니다. 이후 메소드나 실험 섹션에서 다시 언급하기 보다 여기서 미리 언급하면 중복이 줄고 얼마만큼의 성능 향상 효과를 보였는지 설명하기 수월하기 때문입니다. 

 

두번째로 실험에서 비교되는 베이스라인이나 SOTA 모델을 설명하는 것입니다. 연구분야에서 좋은 성적을 거둔 모델들은 분명 존재합니다. 이런 모델들이 방법론적으로 유사하지 않더라도, 이후 experiments 실험 파트에서 성능 비교를 위해 동원되기 마련입니다. 이런 모델들을 Related work section에서 설명할 수 있습니다. 두번째와 같이 현재 모델들이 어떤 문제가 있는지 자연스럽게 언급한다면 method에서 설명할 문제를 언급하는데 매끄러운 연결이 될 수 있습니다.  

 

 

사실 논문에서 언급하는 모든 related work를 모두 설명하기란 불가능하고, 본인도 모두 숙지하는 것은 어려울 가능성이 높으므로 핵심적이고 논문에서 자주 언급되는 모델을 설명하는 것이 가장 효과가 좋다고 생각합니다. 

 

 

 

3. Method / Methodology / Proposed Work

3가지 이름 중 하나 택일 

 

Method 방법론 섹션에서는 해당 연구에서 만든 프로그레스, 방법론을 설명합니다. 

 

만약 전 related work 섹션에서 previous work의 한계점을 언급하지 않았다면 여기서 언급하는 것이 좋습니다. 

 

Method 섹션에서는 해당 모델의 framework의 파트들의 원리를 설명해도 좋고, 전 모델들은 해결하지 못한 문제에 대해 어떻게 돌파했는지 설명해도 좋습니다. 논문에서 algorithm 이나 psuedo code를 언급하고 있다면 그걸 토대로 설명합니다. 이렇게 method 섹션은 보통 논문의 흐름을 따라가는 것이 일반적입니다. 딥러닝 모델이라면 그것의 optimization technique 즉 loss 가 어떻게 구성되어 있는지 설명할 수 있습니다. 

 

이후 Experiments에서 상세한 setting을 설명할 것이므로 여기서는 방법론에 치중해 설명합니다. 

 

 

 

4. Experiments 

Experiments 실험 섹션에서는 연구가 실험한 도메인, 사용한 데이터셋, 그리고 implementation setup 환경 셋업에 대해 언급합니다. 

 

연구가 어떤 태스크, 어떤 데이터셋을 사용했는지 분명하게 밝혀야 합니다. 특히 태스크에서 사용한 계산 척도도 만약 생소하거나 잘 모를만한 내용이라면 상세하게 언급하는 것이 이해에 도움이 됩니다. 

 

그리고 논문에서 보여주는 테이블에 대해서 작가들이 무엇을 강조했는지 말합니다. 본인이 여기는 수상한 점이나 비판적으로 볼 만한 점도 언급해도 좋을 것 같습니다. 

 

 

 

Experiments 실험 섹션에서 metric 매트릭을 사용한 quantitative result (양적 실험) 외에도 qualitative result (질적 실험) 결과도 있다면 여러 이미지들로 제시하며 설명합니다. 

 

 

 

5. Summary / Discussion / Limitation 

3가지 이름 중 하나 택일 

 

 

마지막으로 Summary 결론 섹션입니다. take-home message 라고도 부르는 이 Summary 결론에서는 논문의 main contribution을 정리하고, 논문의 장단점을 1~2 가지 언급하면 좋습니다. 

 

저는 보통 Summary 를 진행한 후, 다른 슬라이드에 예상되거나 논문에서 언급한 limitation을 정리하는 편입니다. 만약 이 연구로 더 뻗어나갈 주제가 있다고 여겨진다면 future work라는 슬라이드로 작성해도 좋을 것 같습니다. 

 

 

 

6. +Appendix

 

마지막으로 분량 문제나 주제에서 조금 빗나가지만 알면 좋은 내용은 발표에서 언급하지 않지만 보고 싶은 사람들은 더 찾아보라고 맨 뒤에 Appendix 부록 섹션을 추가할 수도 있습니다. 

 

 

 

 

-1. Title
0. Table of Contents
1. Introduction 
2. Related Work
3. Method / Methodology / Proposed Work
4. Experiments
5. Summary / Discussion / Limitation
6. +Appendix

 

꼭 이 순서, 이 모든 걸 포함할 필요 없지만 이 단계를 거치고 나면 논문에 대한 이해가 깊어지는 걸 느꼈었다.