개발💻439 자연어 처리 모델의 진화: RNN부터 Transformer까지 개요자연어 처리(NLP)는 인간의 언어를 컴퓨터가 이해하고 처리할 수 있도록 하는 기술입니다.이 글은 RNN부터 Transformer까지 대표적인 NLP 모델들의 발전 과정을 실습 중심으로 정리한 것입니다.실습 주제는 영화 리뷰 분류와 영-한 번역기로, 총 네 가지 모델을 단계적으로 구현하며 그 구조와 특징을 비교합니다.1단계. RNN을 활용한 영화 리뷰 분류핵심 개념RNN(Recurrent Neural Network)은 문장의 단어를 순차적으로 처리하며 시간 흐름에 따라 정보를 전달하는 구조입니다. 기본적인 자연어 처리에서 많이 사용되어 왔으며, 시퀀스의 순서를 반영할 수 있다는 강점이 있습니다.모델 구조입력 단어는 임베딩 벡터로 변환됩니다.Bidirectional LSTM을 통해 양방향 문맥을 모두 .. 2025. 6. 19. [개발 일지] 25. 06. 09 Mon 【 To-do list 】 - 파이썬 코딩 테스트【 In progress 】 - 방통대 프라임칼리지 AI학과 기말고사 대비 - 커널 아카데미 AI 부트캠프 3주차 / 32주 - NIPA google 딥러닝 5주차 / 8주 【 Done 】 - 방통대 머신러닝15강. 실습2 100% - 방통대 대학기초수학 15강. 벡터 방정식 100%【 Reflect 】정말 쉼 없이 달려가고 있는 것 같다.하지만 두 가지 걱정이 있다.첫째, 복습과 내용을 채화할 시간이 부족하다는 점,둘째, 실속 없이 시간을 소비하거나 중요한 것들을 놓치고 있는 건 아닐까 하는 우려다.이럴 때일수록 더욱 철저한 시간 관리가 필요하다.숲과 나무를 모두 볼 줄 아는 시야를 갖자.구글 캘린더를 활용해 거시적이고 장기적인 관점에서 계획을 세우고.. 2025. 6. 11. [개발 일지] 25. 06. 08 Sun 【 To-do list 】 - 파이썬 코딩 테스트【 In progress 】 - 방통대 프라임칼리지 AI학과 기말고사 대비 - 커널 아카데미 AI 부트캠프 2주차 / 32주 - NIPA google 딥러닝 4주차 / 8주 【 Done 】모든 시험이 끝난 후, 오랜만에 휴식을 취했다. 이번 주를 돌아보니 놓치고 지나간 부분이 많았다. 모든 것을 완벽하게 채울 수 없다는 사실을 다시금 깨달았다. 그러나 이러한 시행착오를 반복하면서 나만의 방식으로 최적화를 해나갈 필요가 있다는 점을 분명히 느꼈다.놓친 부분은 결국 시간을 들여 따라잡아야 한다. 앞으로는 시간을 최소화하면서 효과를 극대화할 수 있는 방법을 고민하고, 직접 실천에 옮겨야 한다. 빠르게 실행하고, 결과를 도출하며, 미흡한 부분은 보완하는 방식으로.. 2025. 6. 9. [개발 일지] 25. 06. 07 Sat 【 To-do list 】 - 파이썬 코딩 테스트【 In progress 】 - 방통대 프라임칼리지 AI학과 기말고사 대비 - 커널 아카데미 AI 부트캠프 2주차 / 32주 - NIPA google 딥러닝 4주차 / 8주 【 Done 】 - 방통대 통계학개론 15강. 범주형 데이터의 분석 100% - 방통대 소프트웨어 개발방법론 15강. Machining Learning Practice 100% - 방통대 파이썬 15강. 웹크롤러2 100% - 방통대 확률의 이해 15강 몬테카를로 시뮬레이션 100% 【 Reflect 】내일은 방통대 기말고사 4과목 시험이 있다. 기말고사 관련 공지사항을 꼼꼼히 확인하고, 주어진 시간 안에 핵심 내용 위주로 효율적으로 복습하자. 시험이 온라인으로 진행되기 때문에, .. 2025. 6. 9. 이전 1 2 3 4 ··· 110 다음