마소에서 오픈소스로 BitNet 모델이란걸 공개했음
기존 인공지능 모델들은 훈련시 가중치를 실수 단위로 세밀하게 설정하는데
얘는 그냥 -1 0 1 이 세 가지 값으로만 가중치를 대강대강 설정(1.58bit 양자화)함
기존 인공지능도 양자화를 하기는 하는데 처음부터 이렇게 하지 않고 포스트 트레이닝에 쓰는데 얘는 아예 처음부터 양자화된 학습을 진행하는게 특이한 점임
(이게 되겠냐? 라는 의견이 있었지만 되는데요? 라는 논문도 모델과 함께 공개함)
그래서 얘가 뭐가 좋냐?
얘는 돌리는데 그래픽카드도 필요 없음. cpu면 충분하고 램도 덜 먹음.
그런데 성능은 gpu, 메모리 퍼먹으면서 돌리는 인공지능 급임(따라잡는거지 뛰어넘는다는건 아님. 아직은 제한도 있고)
기존 모델 이기지 못하면 이게 뭐가 좋냐?
얘는 램 적게먹고 gpu 없어도 돌리니까 폰이나 작은 컴퓨터에서도 충분히 돌릴 수 있음
램 작은 폰에서도 개인 전용 인공지능이 돌아가고
개 후잡한 사이트에서도 인공지능이 응답하고
동네 함부기집에서 할배가 말로 대충 주문해도 알잘딱으로 주문 받는 키오스크가 돌아가는 미래가 다가올 수 있다는거임
엔비디아도 존망함 ㅇㅇ
그건 그냥 사람을 로봇에 밀봉하고 못내리게 밖에서 뚜껑 닫아도 구현 가능하니 ㄱㅊ
싸게 먹히니까 인터넷 연결 끊겼을 때 스스로 판단해 공격하는 자폭드론에 넣을 수도 있겠다
잘되면 좋것구만
오 전투로봇 두뇌역할
그건 그냥 사람을 로봇에 밀봉하고 못내리게 밖에서 뚜껑 닫아도 구현 가능하니 ㄱㅊ
싸게 먹히니까 인터넷 연결 끊겼을 때 스스로 판단해 공격하는 자폭드론에 넣을 수도 있겠다
안돼 ai 핑계로 애플이 램 챙겨주는 거 끝난다고
그냥 싸게싸게 아무대나 박아넣을수 잇는 그런게 나올지도 모르겠네