
안녕하세요. Teus입니다.지난번 포스팅을 통해서, GPT의 구조가 대략적으로 어떻게 생겼고 해당하는 구조를 통해서 다음단어 예측기(Decoder Only Transformer)가 대략적으로 어떻게 동작하는지 확인했습니다. 이번 포스팅에서는 해당하는 다음단어 예측기를 통해서 어떻게 GPT가 Chat이 가능한지 알아봅니다.1. 다음단어 예측기의 한계GPT는 문장이 주어졌을 때, 앞에있던 단어들을 가지고 다음에 올 단어을 예측합니다. 이러한 문장의 경우 대부분 위키피디아 등에 존재하는 문서 형태이기 때문에 인터넷의 수많은 문서를 학습한 상태의 LLM에게(이를 pre-trained상태라고 합니다) 오늘 날씨는 어때? 라고 물어본다면이처럼 정상적이지 못한 다음단어만 예측을 하면서, LLM이 예상치 못한 결과만을..

안녕하세요. Teus입니다. 이번에 포스팅에서는 GPT라는게 어떻게 구성이 되어있고 현재 많이 쓰이는 ChatGPT의 동작을 LLAMA모델을 통해서 대략적으로 알아봅니다.0. 다음단어 예측기전체적인 문맥을 만드는 일은 굉장히 어렵지만 현재 단어를 보고, 다음에 올 단어를 예측해보는일은 어느정도 가능한 일 입니다. 예를 들어 볼까요? life is short위 문장만 주어질 경우 다음 단어가 무엇이 나와야 할지 맞추기 어렵지만 life is short, you need 까지 주어지면, 앞에있는 단어들을 통해서 해당하는 문장의 다음 단어가 python일것이라고 대략적으로 예상해 볼 수 있습니다.(물론 🍺도 맞지만요!) 이처럼 문장이 주어지고, 그 문장 다음에 어떤 단어가 나올지를 맞추는게 GPT의 알파이자..

안녕하세요. Teus입니다, 오랜만에 인사드립니다. 이번 포스팅에서 살펴볼 내용은 Pandas이후에 Python에서 Data처리용으로 곽광받고 있는 패키지인 Polars에 대해서 다룹니다.1. PolarsPolars를 Pandas와 비슷하게 2차원 형태의 Sheet형 데이터 처리에 특화된 라이브러리 입니다. 특징으로는Pola-rs. Rust기반으로 작성되어, 빠른 속도로 동작을 보장해 줍니다.SIMD를 지원하여 Vectorized 동작을 통해서 빠른 데이터 처리 보장.Multicore를 전부 활용할 수 있는 BackendLazy Execution을 통한 최적화된 IO실험적인 모드로 GPU Support(beta)등의 특징을 볼 수 있습니다.2. 분산처리 라이브러리와 비교.pola-rs이전에도 Pandas..

안녕하세요. Teus입니다. 이번에는 지금까지 만든 성분들이 한번에 Fade-in 되는것이 아니라 유저가 스크롤 함에 따라서 천천히 Fade-in 되는 효과를 만들어 보도록 하겠습니다. # 1. Intersection Observer APIIntersect Observer API는 유저가 특정 Component에 관찰할 경우 해당 관찰 여부를 알려주는 Web표준 기능 입니다. 그래서 보통은 이 기술을 사용해서 인피니티스크롤(스크롤을 내리면 내리면서 계속 새로운 컨탠츠가 생기는 것) 을 구현할때 주로 사용됩니다. 이 Intersect Observer를 활용할 경우, 아래처럼 보다 미려한 모바일 청첩장을 만들수가 있죠 동영상으로 보니깐 뭔지 바로 이해게 되시죠? 이제 Intersection Observ..

안녕하세요 Teus입니다. 이번에는 결혼식에서 또 빠지면 섭한 마음(?) 전하는 곳을 추가해 보도록 하겠습니다. # 1. 설계하기이번같은 경우 신랑/신부 각각의 정보를 따로따로 볼 수 있으면 좋을것 같습니다. Flip/unFlip 방법도 괜찮지만 Gallery에서 만들었던 modal 기능을 재활용 해보려고 합니다. 대표사진 삭제사진 설명을 입력하세요.이렇게 만들기 위해서 일단 Account.jsx 파일을 만들어 줍니다. Account.jsxconst Account = () => { return ( 마음 전하실 곳 신랑측 계좌번호 신부측 계좌번호 )}export default Accoun..

안녕하세요 Teus입니다. 드디어 모바일 청첩장의 모양세가 완성되어가고 있습니다. 이번에는 결혼식이 어디서 열리는지, 해당 내용을 담을 부분을 완성 하겠습니다. # 1. 설계하기이번 포스팅은 큰 내용은 없습니다. 약도 이미지를 확보하고, 해당하는 위치로 이동하기 위한 이동 방법을 기술하면 됩니다. 저는 아래처럼 설계를 했습니다.그러면 이 접근을 위해서 약도와 한글주소, 접근방법을 확인할 필요가 있을탠데요 대부분 이용하시는 웨딩컨밴션의 홈페이지가 있으실겁니다. 거기서 정보를 획득해 옵니다. 여기서 약도를 mymap.png 로 저장해 주고 나머지 텍스트는 임시로 저장해 줍니다. 그리고 이 내용을 활용해서 이제 Navi.jsx, Transport.jsx를 만들어 줍니다. Navi.jsximport weddi..
- Total
- Today
- Yesterday
- 모바일청첩장
- LLM
- Greedy알고리즘
- Search알고리즘
- 동적계획법
- javascript
- react
- 알고리즘
- 코딩테스트
- 자료구조
- 사칙연산
- 분할정복
- GDC
- GPT
- AVX
- 셀프모청
- git
- Python
- ChatGPT
- hash
- Sort알고리즘
- prime number
- 이분탐색
- ai
- stack
- 완전탐색 알고리즘
- 청첩장
- 병렬처리
- 프로그래머스
- SIMD
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |