시작하면서~ (AI, 하드웨어 플랫폼, 로봇 그리고~)

#1 블로그의 방향

크게 두가지 입니다.

 

1)  device에 AI 기능을 구현하는 과정과 정보를 공유하려고 합니다. 이 블로그에서 언급하는 device는 라즈베리파이와 같은 저가의 Processing module을 뜻합니다. 

 

  라즈베리파이중에서도 최근에 나온 라즈베리파이5를 주로 사용할 생각이고, 필요한 경우 아두이노도 사용할 생각입니다. 아두이노로는 택도 없다고 하실 분들도 많겠지만, 병렬로 묶어서 사용하거나 분산처리를 하는 경우, 라즈베리파이와 연동해서 사용하는 경우 등 이제까지 어디에서도 쉽게 보지 못한 방향으로 진행할 계획입니다.

 

2) 로봇과 인공지능을 연동시키는 것입니다. 인간형 로봇이나 로봇팔 등도 있겠지만, 이런 것들을 포함해서 실용적인 다양한 로봇을 생각해보고 있습니다.

  

#2 HOT HOT HOT

  CES 2024를 직접 보신 분들도 많지만 유튜브를 통해 대충 하이라이트만 봤습니다. 

 

  작년부터 예상한 것이지만, 머지 않아 사회구조가 통째로 변할 것 같았습니다.

 

  뭐 지금이 3차 산업혁명이니 뭐니 하고 말도 많았는데, 곧 3차 산업혁명이 시작될 것으로 봤어요. 이미 고용문제가 자유로운 미국에서는 코로나 기간 동안 사무구조가 변하더니 감원이 시작되었더군요. 우리나라의 경우 노동법때문에 즉각적인 감원은 없겠고, 대부분의 사업자들도 보수적이라 해외 상황을 지켜볼 것 같습니다.

 

  물론 아직까지는 인공지능이나 로봇이 주축이 된 가전 산업이 본격화되었다고 말하기는 어렵습니다. 그러나, opan AI를 통해 촉발된 LLM 기반의 인공지능이 불과 1년만에 거의 모든 분야에서 대학원 석사 수준의 답변을 내놓고 있습니다. 앞으로 1년이 더 지나면 그땐 어느 정도일까? 솔직히 예측이 어려울 정도죠.

 

  그래픽, 영상, 블로그 작성까지도 인공지능을 통해 수행하는 마당에 인공지능보다 저품질의 '신입사원'이나 '경력사원'을 채용하기는 좀 어려울 것 같습니다. 그 보다는 인공지능을 잘 사용하는 소수의 인재들로 업무 처리하는 것이 보다 효율적이고, 기업의 수익성도 지금보다 월등히 높아질 것으로 봅니다. 

 

  2차 산업혁명이 영국에서 발생해 전세계로 퍼져나갔을 때, 동참한 국가들과 사람들은 큰 부를 이루었지만, 그렇지 않은 곳들은 식민지가 되었고, 노예가 되었었지요. 3차 산업혁명때에는 비인간적인 면이 제도권하에서 더 부각되어 이뤄질 것으로 봅니다. 바로 자본주의의 논리로 해고되는 겁니다. 자본이나 기술을 소유한 사람들은 당장에 큰 문제가 없겠지만, 그렇지 않은 사람들은 아예 취업도 안되거나 해고되어 거리로 나오는 경우죠.  이전의 산업혁명에서 영국내의 상황을 벤치마킹해볼 수 있습니다.

 

 

#3 LLM vs. SLM

 

  요즘 인공지능하면 딥러닝, 머신러닝 이런 얘기 대신 chatGPT로 대변되는 LLM을 당연시하고 있습니다. 

 

  사실 자연어를 전공한 학생들이 좌절할만큼 open AI의 chatGPT는 혁명적이었다고 합니다. GPT-2까지는 github에서 오픈 소스로 공동연구하는 분위기였는데, 갑자기 약간 멍청하고 거짓말도 좀 하는 대학생이 나와 버렸습니다. 근데 전세계 주요 언어 96개(?)를 할줄 아는 언어 괴물이었죠. 그러고 한 6개월 있으니 그림도 그려주고 표도 만들어주는 거의 모든 분야의 대학원생이 되어 버렸습니다.

 

  이런 녀석과 경쟁하는 녀석들이 여기저기서 나오고 있지만 그다지 많지는 않습니다. 유럽 축구 챔피언스 리그에서 늘 우승권에 있는 축구팀들의 수와 비슷할 정도로 거대합니다. 너무 거대하다보니 다른 기업들이 이들을 사용해서 뭔가 하려면 돈이 듭니다. 게다가 보안문제도 있어요. 인터넷을 통해 접속하다보니 개인이든 회사든 속칭 빤쓰까지 뒤집어 보여주는 상황이 된 것이죠.

 

   좀 묘하게 되었습니다.

 

   혁식적이긴 한데, 돈 내기는 아깝고, 그렇다고 그걸로 확실히 돈 번다는 확신이 뚜렷하지 않은 상태인 거죠.

 

  그래서 주목받기 시작한게 SLM으로 보입니다. 기기에 쏙 들어가기 때문이죠. LLM보다 멍청하고 말투도 좀 어눌하지만, 한국에 5년쯤 살고 있는 외국인 노동자 정도로 생각하면 되거든요. 

 

   SLM이 LLM보다 작다는 것인지, 사실 그다지 작지는 않습니다. 계속해서 연구를 하고는 있지만, 파일 사이즈가 7G 정도가 거의 최저 수준인데, 음....한국온지 한달 정도 된 외국인 정도?입니다. 그래서 SLM도 좀 쓸만한 것을 찾으면 40G 정도의 파일 사이즈를 이용해야 하는 것 같습니다. 

 

   SLM 개발자들은 SLM을 올릭 위해 성능좋은 small PC를 생각하겠지만, 제조사들은 폭발적인 성장을 위해 성능좋은 아두이노 보드 정도를 사업성이 있다고 볼 것 같습니다. 물론 제품에 따라 다르겠지만, 300만원짜리 냉장고에 50만원을 덧 붙이면 냉장고와 대화할 수 있다고 홍보했을 때, 저라면 그냥 대화기능이 없는 저렴한 냉장고를 바겐세일로 살 것 같습니다. 굳이 냉장고 붙들고 할 얘기가 어떤게 있을까요? 

 

  SLM 의 경우 기존 LLM을 base로 fine tuning을 해서 작게 만드는 것이 대다수입니다. 분야별로 나눠서 튜닝하고, 그걸 모아서 결과를 제공하는 게 가장 우수한 답을 내놨다는 연구에 따라 그리 진행되고 있는 것 같습니다. 언젠가는 Extra Small Language Model(ESLM)이 나올 수도 있을 겁니다. 그게 더 발전해서 EESLM이 나올 수도 있고 뭐....기술은 계속 발전하니까요.

 

#4 인공지능 탑재를 위한 소형 하드웨어 플랫폼

 

라즈베리파이 5

 

  저도 이제 막 시작한 터 라 아직까지 잘은 모르겠습니다. 그저 방향만 잡고 나아가려고 합니다.

 

  다만, 아직까지는 인공지능 개발은 모두 고성능 GPU 기반으로 이뤄졌고, 결과 역시 고성능 GPU를 통해 인터넷으로 받다보니 GPU가 아닌 CPU로 LLM을 이용하는 경우, 아니 SLM을 이용하는 경우 어떤 문제가 생길지 잘 모르겠어요. 막연히 성능이 많이 떨어질거다~! 정도...그게 어느 정도일지 잘 모른다는 거죠.

 

  게다가 만약 특수한 환경하에서만 사용한다면 굳이 많은 데이터를 학습시킬 이유가 없을 것 같습니다. 냉장고와 나눌 만한 대화라면 유통기한이나 신선도, 레시피 등등이 대다수일 것 같습니다. 굳이 일정관리나 오늘의 뉴스에 대해 냉장고한테 물어보거나 할 경우는 많지 않을 것 같거든요. 물론 지나가면서 "상대성 이론"에 대해 토론을 해볼 가능성도 있긴 합니다. 

 

  그런 낮은 가능성을 위해 굳이 냉장고에 고성능의 GPU를 설치할 이유는 별로 없을 것 같습니다. TV도 마찬가지고, 식기세척기도 세탁기도 좀 비슷할 것 같습니다. 차라리 휴대폰에 깔아놓고 이야기하는게 좀 더 낫다고 생각합니다. 

 

  어찌보면 세탁기나 TV에 휴대폰과 연동할 수 있는 작은 모듈만 설치하거나 이미 설치된 모듈의 F/W를 수정하는게 보다 효율적일 것 같습니다. 휴대폰은 이미 인터넷에 붙어 있으니 그냥 휴대폰에게 "세탁기 돌려라", "TV 켜라 꺼라, 채널 돌려봐" 등등을 하는 것을 더 익숙하고 편하게 느끼는 사용자들도 있을 것 같습니다. 

 

=====================

  

"라즈베리파이 5 개발을 위한 설정"을 곧 올리겠습니다~!