원래 나는 17살(2017년)때부터 개발을 시작하여 지금까지 이어져왔고, 네트워크와 서버쪽으로 공부를 꾸준히 해 왔다
처음 개발은 안드로이드 개발로 시작을 하였고, 네트워크와 서버쪽으로는 개인 서버 구매하여 메일서버 구축과 데이터베이스, VPN서버, 보안서버까지 수렴해 왔다. 항상 어떤 아이디어를 가지고 개발을 하거나, 서버구축을 하고 다 완성돠었을때 또 무언가를 만들까 고민을 해서 딱 하나가 나왔다.
바로 인공지능
인공지능은 나한테 처음 도전하는 개발이자 아무런 지식이 없는 상태에서 시작한거다.
원래 개발은 오류 겪고 실패를 겪으면서 하는게 개발자의 정신이지 ㅇㅇ
꽤나 다양한 인공지능 단어들이 많았다
당연히 이런 단어들은 내가 여태 개발해왔던 부분에 비해 너무 다른 생태계라서 진심 눈알이 튀어나올정도로 어지러웠다
LLM
LLM은 인공지능의 핵심적인거다.
Large Languge Model이라는걸 줄여서 LLM이라고 하며, 이들을 대규모 언어 모델이라고 한다
여기서 대규모 언어 모델이라함은 걍 수많은 언어를 가지고 학습을 하여 사람과 대화 할 수 있을 정도의 모델이라고 보면 된다.
크게보면 GPT, Gemini등 있다.
보통 모델들은 가중치라는것이 존재하는데 이런 가중치는 한개의 모델이 가지고 있는 파라미터라고 보면 된다
걍 파라미터가 많으면 많을수록 똑똑하다고 보면 된다
양자화
모델을 가볍게 만드는 기술이다. 모델들은 파라미터가 많거나, 기억을 오래하는 컨텍스트가 많으면 모델의 용량도 커지는게 당연하다. 그래서 이런 무거운 녀석을 다이어트를 시켜주는것이 양자화 기술이다.
LoRA
Low Rank Adaptation의 약자로 미세조정 기법이다.
이는 기존 LLM모델을 가지고 나만의 모델을 만들때 쓰이는건데 수많은 방대한 양으로 LLM을 학습시키는것 보단, LoRA를 통해 학습 시키면 LLM의 성능은 유지하고 필요한 부분만 학습을 시켜주는것이다.
즉 우리가 중학생에서 고등학생 올라갈 때 고등학교의 수업을 교육 시켜야 하는데 중학교때 배웠던 학습을 이어서 고등학교 학습을 이어서 시켜주는것이라고 보면 된다.
페르소나
모델(인공지능)의 컨셉이다. 말투와 성격을 결정짓는 부분이다.
만약 본인이 만드는 인공지능의 컨셉을 덕후로 하고 싶다면 덕후 관련된 단어들을 왕창 넣으면 모델이 학습할때 "헤헤 미쿠짱..." 이라는 혐오스러운 페르소나가 만들어진다
프롬프트
시스템 프롬프트라고 불린다. 인공지능이 답변과 결과를 제시할때 하나의 규칙이다. 시스템 프롬프트에서 "너는 미쿠짱이야!" 라고 하면 질문이 들어오고 답변할때 "헤헤.. 나는 미쿠짱이당.."이라고 모델이 생각한다.
페르소나와 다른점은 이 프롬프트는 약하고, 학습한게 아니라 가끔 삐뚤어진다. 만약 GPT나 Gemini들의 답변이 이상하면 프롬프트를 전부 지워달라고 하거나 프롬프트를 기억하라고 강조하면 된다.
환각
인공지능은 학습한 데이터를 기반으로 패턴을 공부한다. 인공지능도 하나의 컴퓨터이기에 명령이 들어오면 답변하기 마련이다. 또한 아무리 뛰어난 인공지능이라 하더라도 엄청난 고도화나 시스템이 아닐 경우 환각을 피해갈 수 없다. 그래서 인공지능의 답변을 100%로 신뢰하기에는 부족하다
멀티모달
하나의 모델에서 다양한 작업이 가능한 인공지능이다. 텍스트+사진+음성 까지 전부 한 모델에서 처리가 가능하면 그건 멀티모달이라고 보면 된다. 대표적인게 GPT, Gemini가 있다.
보통 인공지능은 연산이 좋아야 한다. 요즘시대의 그래픽카드나 램값이 오른 이유가 바로 이 인공지능의 고도화 때문이다.
나도 지금 하고싶은 프로젝트가 있어서 인공지능을 만들었는데 추론을 할 서버가 없다 그래서 고성능 그래픽 서버가 필요해서 GCP를 찾아봤는데 월 30만원은 금방 깨진다.
결국 교통사고 나서 합의금으로 받았던 내 몸값이 어제 들어와서 혼자서 행복회로 돌리면서 그래픽서버를 구축할려고 한다. 물론 RTX계열이긴 한데 나름 만족한 사양으로 맞췄다.
그나마 컴퓨터와 인공지능에 대해 아는 사람은 의아할거다
"누가 인공지능 추론을 RTX로 맞추냐ㅋㅋㅋㅋ" 라고 할텐데 세상이 호락호락 하지 않는다
샤갈 내가 이거 살 돈이 있었음 집을 샀지 ;;
걍 나도 남들처럼 영화보기나 독서하는 취미로 할걸
취미생활 할려고 하루하루 거지처럼 살아가겠네...