홍카나의 공부방

한기용 강사님의 ChatGPT 특강 LLM과 GPT Large Language Model은 문장의 일부를 보고 비어있는 단어를 확률적으로 맞추는 모델이다. 이 모델을 Train할때는 비지도 방식을 사용하는데 웹상에 존재하는 문서들이 모델의 훈련 데이터가 된다. 그리고 Temperature 개념이 들어가는데, 이는 자유도 개념으로써 이를 100으로 줄수록 출력 값이 랜덤으로 정해지고 0에 가까울수록 정해진 답으로 출력한다. GPT는 OpenAI에서 만든 초거대 언어 모델이다. GPT는 Word Completion, Code Completion 두 가지 모델을 제공한다. cf) 네이버의 초거대 언어 모델은 Word Completion만 지원한다. GPT-3 버전은 175B개의 파라미터를 사용하고 Contex..

본 글은 김덕수 교수님의 2019년도 봄학기 운영체제(CPA310) 강의 내용을 바탕으로 요약 정리한 내용입니다. https://sites.google.com/view/hpclab/courses/operating-system HPC Lab., KOREATECH - Operating System Operating System (CSE132) sites.google.com FCFS (First-Come-First-service) 일명 선착순 알고리즘이다. 비선점 스케쥴링 방식이며 스케쥴링 기준은 먼저 ready queue에 도착한 프로세스를 먼저 처리하는 것이다. Context Switching이 적어지므로 '비교적' 효율적으로 자원을 사용하는 알고리즘이다. Batch System에 적합한 방식이다. 단점으..

이진 탐색(Binary Search)은 정렬된 리스트에서 탐색 범위를 절반씩 좁혀가면서 데이터를 탐색하는 방법이다. 언어에 상관없이 이진 탐색은 시작점, 중간점, 끝점을 이용하여 데이터를 탐색한다. 리스트에 데이터가 다음과 같이 정렬된 상태로 있다고 가정하자. 0 3 6 9 12 15 18 21 24 27 30 시작점인 list[0]의 값은 0일꺼고, 끝점인 list[-1]의 값은 30일 것이다. 그리고 중간 지점은 (시작점 + 끝점 // 2)로 계산하면 5로, list[5]인 15이 될 것이다. ( 소수점은 없앤다. ) 그리고 찾고자 하는 값이 9라고 가정하자. 먼저 중간 지점인 list[5]의 값인 15과 비교한다. 찾는 값인 9는 중간 지점의 값인 15보다 작다. 그러면 중간점인 list[5]부터 ..