Naver AI Boost Camp/캠퍼 기록 썸네일형 리스트형 [U-NLP] 6일차 회고 : NLP에는 정말 다양한 task들이 있는 것 같다. 안녕하세요~! 27년차 진로탐색꾼 조녁입니다! 오늘은 논문 리뷰 발표 차례라 발표를 했던 날입니다. 또한 한주의 시작으로 transformer 강의도 들었습니다. 오늘 확실히 느낀 건, 아침에 일찍 일어나서 밥먹고 준비된 상태로 하루를 시작해야 오전을 잘 쓰고, 저녁 먹고 산책을 하든 , 운동을 하든해서 경계를 정해줘야 저녁 시간을 잘 쓸 수 있다는 것이다. 1. 오늘 새로 배운 내용 주말에 꼭 노션 내용 블로그로 옮기자.. 지난 주것도 안했 .... https://jonhyuk0922.notion.site/U-NLP-6-Transformer-486b9d1755434d73b72905a79a019338 [U-NLP 6일차] Transformer Transformer jonhyuk0922.notion.sit.. 더보기 [U-NLP] 5일차 회고 : 잘하는 사람은 노력하는 사람을 이길 수 없고, 노력하는 사람은 즐기는 사람을 이길 수 없다. 안녕하세요!! 27년차 진로탐색꾼 조녁입니다. 오늘의 회고는 제가 제일 좋아하는 , 좌우명과 같은 말입니다. 부스트캠프가 어느덧 6주가 지났는데 나는 어떤 개발자가 되고 싶은 지 생각해봤을 때, 저 말이 떠올랐습니다. 이제 남은 캠프기간은 어느덧 약 14주정도 가량밖에 남지 않았습니다. 그 기간 나는 누구보다 즐기는 캠퍼가 되자!!! NLP 강의 및 과제는 목요일 부로 끝나서 금요일은 시각화 강의 , 멘토링, 스페셜 피어세션, 오피스아워와 같이 모임 시간이 꽤 큰 부분을 차지했습니다. (시각화 강의는 따로 정리하지 않았습니다) 1. 멘토링 - 요약 : 논문 읽는 법 (+ 툴 , 추천 논문) , 추천하는 강의(cs224n) , 다음주 KLUE data 다뤄주시기로 함 https://jonhyuk0922.n.. 더보기 [U-NLP] 4일차 회고 : 말로 설명해보니 내가 모르는 부분들이 많구나! 안녕하세요~! 27년차 진로탐색꾼 조녁입니다! 오늘은 제가 피어세션 모더레이터라 당일 수업 내용 ( Beam search & BLEU) 에 대해서 정리해서 발표했습니다. 확실히 말로해보니까 제가 잘못알고있었던 부분이나 정확히 알고있지 못한 부분에 대해서 알 수 있어서 좋았습니다!! 그래서 확실한 피드백을 하고 넘어가면 좋겠다고 생각되었습니다. 오늘도 공부한 내용은 링크로 걸고 바로 회고를 해보도록 하겠습니다! (정리는 주말에?..) https://jonhyuk0922.notion.site/U-NLP4-Beam-search-BLEU-score-f4188499a2164d5daf41af310c947b24 [U- NLP4일차] Beam search & BLEU score To do jonhyuk0922.noti.. 더보기 [U-NLP] 3일차 회고 : 주재걸 교수님께서는 강의를 잘하신다. 안녕하세요~! 27년차 진로탐색꾼 조녁입니다! 오늘도 늦었지만 꼭 남기고 싶어서 회고를 남깁니다. U-stage때 뒤쳐지지 않고 further study를 진행하는 게 정말 중요하다고 생각하는데 그래도 p stage때는 그거 나름대로 힘들겠죠? .. 무튼 오늘 공부한 내용은 일단 아래 노션 주소만 남기고 .. 회고부터 하고 자야될 것 같아요 https://jonhyuk0922.notion.site/U-NLP3-Seq2Seq-Attention-architecture-f651589a63994b2bb2d45c9b731d16b7 [U- NLP3일차] Seq2Seq : Attention architecture Today To Do jonhyuk0922.notion.site 오늘의 회고 가장 기억에 남는건, 이번주.. 더보기 [U-NLP] 1일차 회고 : 노력에 대한 낭만을 믿자. 그리고 기록이 중요하다. 안녕하세요~! 27년차 진로탐색꾼 조녁입니다!! 어느덧 P-stage가 끝나고 Level-2 U stage-NLP가 시작됐습니다. 오늘은 새로운 피어세션 캠퍼분들을 만난 날이기도 하지만, 1기 선배님들이 오셔서 "Meet-up : 부캠에서 살아남기" 시간을 너무 풍성하게 해주셔서 기억에 많이 남는다. 1. 오늘 새롭게 배운 내용 1. Word2Vec 같은 문장에서 인접한 단어들 간에 의미 비슷할 것이라는 가정하에 시작한다. e.g) The cat purrs & This cat hunts mice Idea of w2v : 한 단어가 주변의 단어를 통해 유추될 수 있다. Window & sliding window : 각 문장의 중심단어 & 주변단어 쌍으로 구성되는 학습데이터 추출 관계를 벡터화하여 빼고 더하.. 더보기 [P stage] 오늘의 회고 : 함께 자란 P stage 였다. 안녕하세요~! 27년차 진로탐색꾼 조녁입니다!! 오늘부로 첫번째 P stage가 끝났습니다! 물론 가장 중요한 정리와 회고의 시간들이 남았지만 그래도 후련하네요. 오늘의 회고는 기분좋았던 3가지로 남길 수 있을 것 같습니다. 첫번째로 웃으며 마지막까지 한팀으로 수행한 것입니다. 사실 각 피어세션조는 각자 성격도 실력도 다양해서 의견이 잘 안맞거나, 소통이 별로없이 그저 잘하는 한분만 발언하는 조들이 있을 수도 있다고 생각합니다. 그러나 저희는 오히려 P stage를 통해 관계가 더 돈독해지고 팀적으로 성장할 수 있었습니다. 두번쨰로 모두 성장할 수 있었습니다. 피어세션때 얘기를 나눠봤을 떄 모두가 스스로도 성장했음을 느꼈습니다. 몇명만 성장한 게 아니라, 팀 전체가 각각 성장할 수 있었다는 것이 의미있다.. 더보기 [P stage] 오늘의 회고 : 끝나기 직전에 그래도 원인을 찾았다! 안녕하세요~! 27년차 진로탐색꾼 조녁입니다. 이제야 감이 오고 스코어가 오르는데 끝이라니 너무 아쉽네요.. 특히 제가 뭘 틀려서 점수가 낮았는 지 알아버렸습니다.. 몇가지 요인이 있었는데, 정말 사소한 것들이라 허무하면서도 지금이라도 알게되서 참 감사합니다. 1. 점수가 잘 안나왔던 이유 & 해결 방안 resize & input size: 사용하는 모델마다 사전학습될때 최적화된 값이 있는데 적용을 안시켰었다. 각각 아래 블로그 내용대로 했더니 대폭 향상되었다. 참고로 inference에도 동일하게 resize 해줘야한다! (약 20% 향상) test dataloader 에도 train과 비슷한 조건(augmentation, crop ..) 을 맞춰줬다. facenet으로 crop한 이미지로 학습했으니,.. 더보기 [P stage] 오늘의 회고 : 생각한 걸 많이 실행한 하루 안녕하세요~! 27년차 진로탐색꾼 조녁입니다. 자야되는데 또 이 시간에야 회고를 쓰는 제 모습을 회고합니다 .. 하지만 몰입하다보면 시간이 많이 부족해서 어쩌다보니 이 시간이 되었네요 ,, 그래도 오늘은 생각도 이것저것 많이해볼 수 있었고, 그만큼 많이 구현해봐서 좋았습니다. (오류도 이겨내보고! 디버거도 써보고!) 몸은 힘들지만 그래도 즐거운 하루였는데 제발 내일 눈떴을 때 돌려놓은 모델이 잘 나왔으면 좋겠다.. 1. 오늘 시도한 것들 & 깨달은 것들 - 얼굴 facenet 으로 Crop 해보기 => padding을 줘서 crop해야 머리카락이 나온다!! - 실험결과 정리 및 되돌아보기 resize 크기는 pretrained model 에서 사용한 이미지 사이즈를 고려해서 정하기 Cutmix할 때는 기.. 더보기 이전 1 2 3 4 5 다음
