라마3, 압도적 성능 공개

Cancel

이슈/유머[836]
홈 > 헉 짤 > 이슈/유머
이슈/유머

라마3, 압도적 성능 공개

0 221 0

이슈유머걸그룹kpop헉짤라마3 압도적 성능 공개-1번 이미지

8B 부터 놀랍고,

70B도 놀랍네요.

이슈유머걸그룹kpop헉짤라마3 압도적 성능 공개-2번 이미지

라마3가 기대 이상의 성능으로 나왔으니

상용 서비스를 진행 중인 곳들은 경계의 눈초리로 보고 있을 것 같습니다.

개인 유저가 로컬로 돌리려면 70B짜리를 4비트 양자화를 해야...

고성능 컴퓨터로 겨우 가능하지 싶네요.

400B는 아직 훈련 중이어서 위 점수보다 더 높아 질 것 같다네요.

규모가 좀 있는 기업에선 라마3를 파인튜닝하고,

RAG로 사용 하려 할 수도 있어 보입니다.

출처 : https://www.clien.net/service/board/park/18705690?type=recommend

댓글[0]
제목