[7주차] 목요일

오늘은 프로젝트 마지막 날이었다. 어제 돌리고 잤던 k-fold 모델의 결과를 오전에 확인했는데 val-pearson이 굉장히 높아 깜짝 놀랐다.

그런데 생각해보니 k-fold에서는 val-pearson을 기존과 다르게(기존에는 train과 validation을 구분, k-fold에서는 train set 내에서 validation 추출) 계산하기 때문에 더 높게 나올 수 있었던 것이었다. 그래도 test-pearson도 나름 괜찮게 나와 나중에 앙상블 모델에 추가하기 위해 ckpt파일을 따로 저장해 두었다. 

 

 오늘은 제출을 해야하는 날이기에 기존에 실험했었던 모델 중 괜찮은 것들을 추려 앙상블을 만들어보려 했다. 그 중에는 ckpt를 용량 문제 때문에 지운 것들도 있어서 다시 돌려야 하는 모델도 존재해 오전, 오후엔 다시 돌리는데 집중했다. 그 모델들을 돌리면서 이번 프로젝트에서 어떤 부분이 아쉬웠고, 어떤 것들을 배워서 좋았었는지에 대해 마지막으로 생각을 해보았다.

 

 1. 먼저 좀 더 체계적으로 실험을 진행했으면 좋았을 것 같다. 실험을 진행하면서 느낀 점은 많은 가설들을 증명하고 싶은데 모델 하나 돌리는데 1시간 반이 족히 넘어가서 시간이 많이 부족함을 느꼈다. 그래서 팀원들과 상의해 어떤 부분을 본인이 맡아 실험을 진행할지 정했으면 더 많은 시간을 아꼈을 것이고 더 많은 정보를 얻을 수 있었을 것이다.

 2. 좀 더 적극적으로 소통했으면 좋았을 것 같다. 이번 프로젝트에서 정말 많이 소통을 하려 노력했지만 아무래도 온라인이다 보니 그때 그때 상황을 말하기는 어려웠던 것 같다. zoom 상에서는 다들 열심히 실험을 진행하는 모습이 보여 괜히 집중을 방해할까봐, 내가 깨달은 부분이 너무 사소한 내용일까봐 공유를 망설였었다. 하지만 프로젝트에 막바지에 이르자 내가 깨달았던 내용으로 다른 실험을 진행해볼 수 있었고 좀 더 빠르게 공유했더라면 기존 모델에 추가할 수 있었다는 것을 알게되었다. 

3. 가설의 논리력이 많이 부족했다. 실험 중 절반은 한번 돌려보고 성능이 있다면 그 뒤에 이유를 찾았던 것 같다. 단순히 바꿀 수 있는 hyperparameter들이 특히 그랬다. '왜' 성능을 보였는지, '왜' 성능이 떨어졌는지에 대해 더 깊은 탐구를 해보고 싶었는데 그러지 못했다. 계속 궁금하기는 했지만 그 이유를 알기 위해선 많은 논문과 많은 수식을 분석해야 한다고 생각했고, 가설이 한 두개가 아니었기에 일단은 진행하자는 생각이었다. 그래서 프로젝트가 끝난 지금은 논문을 많이 읽어보며 논리력을 더 키워보고 싶다.

 

 이번 프로젝트는 지식적인 부분에서도, 팀활동적인 부분에서도 많은 것을 배울 수 있었다. 지식적인 부분은 실험을 진행하면서  data augumentation, data analysis, pytorch lightning, git 등등  많은 것들을 코드를 짜고 보며 익숙해 질 수 있었다. 하지만 이런 지식적인 측면 보다 팀활동의 중요성을 정말 많이 깨달았다. AI 프로젝트는 처음이었기에 시작하는 부분 부터 모르는 것들이 게속해서 등장했다. 그럴 때마다 팀원 분들이 밤낮 없이 적극적으로 알려주시고 본인의 문제 처럼 해결해주셨다. 내가 물어볼 때마다 죄송해하니 별일 아니라고 다독여주고, 본인도 알려주면서 많이 배웠다고도 말씀해주기도 하셔서 너무 감사했고, 나 또한 팀원 분이 여쭤보는 것은 내가 아는 지식 선에서 최대한 알려드리려고 노력했다.

 우리 팀에는 github 관리, 코드 정리 등을 대신해서 해결해주시는 팀원, 여러 논문의 정보를 알려주시는 팀원, 배우며 그냥 넘겼던 부분을 다시 한번 짚어주는 팀원, 본인이 맡은 부분을 어떻게든 끝맞춰서 해결해주는 팀원 분들이 계셨다. 정말 많은 것을 배울 수 있었던 팀원들이었기에 굉장한 행운이었다고 생각한다. 이런 팀원들 덕분에 나는 어떤 장점을 가졌고 어떤 역할을 하는지 많이 고민하게 되었다. 또한 좋은 팀원은 무엇인가, 좋은 팀이란 무엇인가에 대해 다시 생각해볼 수 있었다.  앞으로의 프로젝트에서 이런 고민들은 분명 큰 도움을 줄 것이라 생각한다.