유머천국 코하비닷컴
https://cohabe.com/sisa/3681916

이슈) 엔비디아 인공지능 보드 근황 ㄷㄷ.jpg




img/24/05/28/18fbe31b77017fc3a.jpg





이 인공지능 보드 하나가 약 3000W 가까이 먹음


위에 큼직한 칩 2개는 하나에 1200W씩 먹고


가운데 놈은 그레이스 CPU라 불리고 300W 먹음


이 보드에는 그 유명한 초고가 24GB HBM3E 하이닉스 메모리가 8개나 들어감










img/24/05/28/18fbe33c24417fc3a.png





에어컨 18도로 맞춘다음 전자레인지로 핫바 구워먹어도 이 보드 못 이김 ㄷㄷ














img/24/05/28/18fbe39864317fc3a.png



NVIDIA NVL72














cmt/24/05/13/18f723b151017fc3a.gif




?????????????













img/24/05/28/18fbe49ac3917fc3a.webp




??? : 아 저거 이번에 인공지능 보드 만들면서


성능을 최대치로 끌어올릴 수 있는 컴퓨팅 유닛 함 만들어봤는데 


B200칩(1200W)이 72개나 들어갔음. 많이 많이 사주셈 ㅋㅋ












img/24/05/28/18fbe41985717fc3a.jpg




아니 그럼 전력소모량이 ㄷㄷ....










img/24/05/28/18fbe41ca8d17fc3a.jpg



모르겠다



댓글
  • 쌀마스터 2024/05/28 17:17

    연구소 같은데선 저런거 열짝식 들여놓고 돌릴거 아니냐...?
    전기계량기 모터가 터지겠네 아주

  • 아으앍아 2024/05/28 17:17

    전력 충당을 위해 탄소배출량 최대로

  • Oasis_ 2024/05/28 17:18

    어차피 저거 사용하는건 마소, 메타, 구글처럼
    돈 걱정 없는 기업들이거라
    가난한 기업과 연구소는 그대로 rtx 쓸예정ㅋㅋ...

  • 페즈나 2024/05/28 17:17

    이제 큰 기업은 SMR별도로 보유해야할듯

  • 벌레박멸자 2024/05/28 17:18

    기압용이니까

  • 갈비. 2024/05/28 17:20

    어차피 저런거 쓸정도의 데이터센터면 전력이랑 쿨링걱정 안하긴함 ㅋㅋㅋ

  • 루리웹-7783157161 2024/05/28 17:20

    여간 기압이 아니었다


  • 쌀마스터
    2024/05/28 17:17

    연구소 같은데선 저런거 열짝식 들여놓고 돌릴거 아니냐...?
    전기계량기 모터가 터지겠네 아주

    (MFXNv8)


  • 페즈나
    2024/05/28 17:17

    이제 큰 기업은 SMR별도로 보유해야할듯

    (MFXNv8)


  • 아으앍아
    2024/05/28 17:17

    전력 충당을 위해 탄소배출량 최대로

    (MFXNv8)


  • 벌레박멸자
    2024/05/28 17:18

    기압용이니까

    (MFXNv8)


  • 루리웹-7783157161
    2024/05/28 17:20

    여간 기압이 아니었다

    (MFXNv8)


  • 딮퍼플
    2024/05/28 17:18

    EUV한대가 소도시 사용량만큼 먹으니... 요즘 전기주 오르는 이유

    (MFXNv8)


  • Oasis_
    2024/05/28 17:18

    어차피 저거 사용하는건 마소, 메타, 구글처럼
    돈 걱정 없는 기업들이거라
    가난한 기업과 연구소는 그대로 rtx 쓸예정ㅋㅋ...

    (MFXNv8)


  • 유이^~^
    2024/05/28 17:19

    근데 저런거 굴리는 회사들은 탄소배출권 사거나 포집장치나 태양광 원전 전기 사서 나은편이라 하던데
    파운드리가 더 문제일듯

    (MFXNv8)


  • 왔다갔다 왜그러는거야
    2024/05/28 17:20

    전기부족으로 지구 먼저 말할 거 같음 요새 전력 먹는 거 보면

    (MFXNv8)


  • 갈비.
    2024/05/28 17:20

    어차피 저런거 쓸정도의 데이터센터면 전력이랑 쿨링걱정 안하긴함 ㅋㅋㅋ

    (MFXNv8)


  • 루리웹-3341283729
    2024/05/28 17:20

    농담 없이 진지하게 지금 ai 제대로 써먹으려면 소형 원자로 정도는 돌려야한다는 말도 나오고 있음 ㅋㅋㅋㅋㅋ
    진짜로 전기 퍼먹는걸로 환경규제 태클 걸리면 산업 전체라 한순간에 와르르멘션 확정인 수준으로 쳐먹어

    (MFXNv8)


  • 화화
    2024/05/28 17:20

    하이닉스가 아니면 못만들어

    (MFXNv8)


  • PWIO
    2024/05/28 17:20

    그리고 저 엔비디아서 내놓은거 수냉식으로 하는거임 기존 공냉식으로 굴리면 nvl72에 저만큼 들어갈수가 없거든...

    (MFXNv8)


  • C.Latte
    2024/05/28 17:20

    초거대 기업이 쓰고
    마이크로소프트처럼 바다에 넣어두려나?

    (MFXNv8)


  • 코프
    2024/05/28 17:20

    엔비디아:안살꺼면 말고
    고객:아니 누가 안산다 그랬나..

    (MFXNv8)


  • GREEN_LEFT_DEMON
    2024/05/28 17:20

    저거 지뢰찾기 되는거야?

    (MFXNv8)


  • 0거리저격
    2024/05/28 17:23

    지가 혼자서 맵 만들고 클리어하고까지 가능할듯

    (MFXNv8)


  • 루리웹-5040278354
    2024/05/28 17:21

    당연히 관리하겠지만 저 조그마한거에 전기를 저렇게 잡아먹으면 발열은 어떻게 처리하려나

    (MFXNv8)


  • 루리웹-8838287736
    2024/05/28 17:21

    저딴걸 돌리니 마소에서 gpt-5급 ai 학습 시스템 한주에 몰아서 돌리면 주 전력 시스템이 다운된다고 징징더리는 구나....

    (MFXNv8)


  • 랑이비
    2024/05/28 17:22

    저거 쿨링은 어케 하는거임? 에어컨으로 감당 가능함?

    (MFXNv8)


  • 핑키_파이
    2024/05/28 17:23

    일체형 수랭이나 액침 식으로 간다고 알고있음

    (MFXNv8)


  • 불법번역본신고
    2024/05/28 17:22

    탄소배출을 ㅈ으로보는 전력소비량이네

    (MFXNv8)


  • DNGhost
    2024/05/28 17:22

    저거 냉각하면서 나올 에너지를 어떻게 활용할 생각을 해봐야겠는대.....UPS는 아예 패시브일거고....발전용량이 따라갈려나 이러면 직접 발전회사를 세울려나

    (MFXNv8)


  • AAKHS
    2024/05/28 17:23

    센터 크게 지으면 어지간한 공장보다 더 처먹겠네...

    (MFXNv8)


  • Medand
    2024/05/28 17:23

    AI 연산하려고 칩 성능은 빠방하게 올리는데
    전력 수급망은 어떻게 해소하련지

    (MFXNv8)


  • 밤안개
    2024/05/28 17:23

    건물 난방 용수를 칩셋 냉각수로 써도 되겠다는 말도 나와서..,

    (MFXNv8)


  • 유동고닉
    2024/05/28 17:23

    gpt 한라인 돌릴때마다 물 500ml씩 증발시킬 열량이 들어간다던가

    (MFXNv8)


  • PanicAttacker
    2024/05/28 17:23

    열 나오는 걸로 물 끓여서 다시 터빈 돌려도 되겠네

    (MFXNv8)

(MFXNv8)