Jun 30, 2021 \ AI, Corporate, Benchmarks
??:
??????黑料不打烊? AI ???? ?? ?? ?? ?? ?? ???? ????? MLPerfTM? ?? ??? ?? ??? ???? ??? ?? ?? ??? ???? ?? ??? ?????.
黑料不打烊? IPU-POD64? 9?? ?? ?? BERT ?? ?? ??? 14.5?? ResNet-50 ?? ?? ?? ? ??? ??? ??????. ?? ????? ??? AI ??? ?????.
?? MLPerf ??, 黑料不打烊? ?? ???? ?? NVIDIA?? ??? ??? ? ??? ??? ??? ??? ????? ???? ????????.
?? ?? 黑料不打烊? ?3?? ?? ??? ???? ??? AI? ??? ??? ?? ?? ???? ????????? ?? ? ????? ??? ????? ??? ?????.
?? ??? ????? ??, ???? ????? ??? ???? ?? 黑料不打烊? AI ?? ??? ???? ????? ??? ???????.
??? ????? 黑料不打烊
MLPerf? 黑料不打烊? ???? ?? ?? ??? ??? ? ???, ?????? ???? 50? ??? ?? ??? ? ?????.
黑料不打烊? MLCommons? ??? "?? ?? ?? ??? ? ?? ??? ??? ??? ???? ?? ??"? ????? ?????.
MLCommons? ???? ??? ?? ? ?? ??? ?????. 黑料不打烊? ??? ??? ?? ?? ??? ?? ???? ? ??? ? ????.
?????? ? ??
黑料不打烊? MLPerf(?? ?? 1.0)? ??? ??? ????? ???? ?????? ???? ????? ??? ?? ? ??? ??? ??? ?????.
MLPerf ??? ?? ????? ?? ???? ResNet-50 ?? 1.5 ??? ?????. ? ??? ?? ????? ????? ??? ???? ????? ImageNet ??? ???? ???????.
NLP? ?? BERT-Large ??? ?????, ?? ?? ?? ????? ? 10%? ???? ????? Wikipedia ??? ??? ???? ??????.
黑料不打烊? ResNet-50? BERT? ???? ??? ??? NLP? ????? ? ??? ??? ??? ?? ??? ??? ??????? ??? ?? ?? ???? ?????.
黑料不打烊? MLPerf?? ??? ??? ??? ?? ???? ???? AI ?? ??? ???? ????? ? ??? ?????.
黑料不打烊 ???
黑料不打烊? IPU-POD16 ? IPU-POD64.???? MLPerf ?? ??? ??????.
? ??? ?? ?? ???? ??? '???'? ?? '??'?? ??????. ??? MLPerf ???? ???? ??? ??? ???!
IPU-POD16? IPU AI ?? ??? ???? ??? ?? ??? ?? 黑料不打烊? ????? ???? ??? 5U ??????. 1U IPU-M2000 4?? ?? CPU ??? ?? ? ???? 4 PetaFLOPS? AI ?? ??? ?????.
??? ?? ??? IPU-POD64 ???? IPU-M2000 16?? ?????, ?? ?? ???? ??? ? ????. 黑料不打烊 ???? ??? AI ???? ???? ?? ??? ????? ?? ??? CPU ? IPU ??? ??? ? ????. ?? ??, ??? ?? ??? ?? ??? ???? ? ?? ??? ??? ???.
MLPerf ?? ? IPU-POD64? BERT? ?? ? ? ?? ??? ?????, ResNet-50?? ? ?? ??? ??????. ? ??? AMD EPYC? CPU ? ?? ???????.
??? ?? ? ??? ??
MLPerf? ???? ???? ? ?? ?? ??? ?????.
??? ??? ??, ????? ??? ???? ??? ?? ?? ??? ???? ??? ?? ??? ????? ??? ???? ???.
??? ??? ??? ??? ??? ?? ???? ?? ??? ???? ?? ??? ?? ??? ???? ??? ?????. ?? ?? ??? ???? ??? ????? ???? ??? ? ?? ?? ??? ?????.
黑料不打烊? IPU? ?? ???? ????? ?? ??? ??? ??? ??? ? ???? ?????. ???? ???? 黑料不打烊? ??? ??? ??? ?? ??? ??? ????? ????.
黑料不打烊? MLPerf ??: ??? ? ??? ??
黑料不打烊 ???? ??? ???? ??? ??? ????? ??? ??? ?????.
?? ??? IPU ? ??? ??? ??? ??? ? ?? ???? ??? ???? ??? ????? ?? ???? ??? ???????. ? ??? ??? ?? ??? ?? ??? ??? ? ?? ?? ?? ??? ?? ?????.
??/??
MLPerf? ?? ???? ??? ??? ? ???? ?? ????? ??? ????.
??? ???? ?? ??? ?? ??? ? ????. ???? ????? ??? ????? ??? ??? ??????? ??? ???? ???? ???? ??? ??? ???? ?????.
黑料不打烊? ???? ????? ??? ??? ???? ?? ?? ????? ?????.
黑料不打烊? IPU-POD16? $149,995? 5U ??????. ?? ????? ? ???? IPU-M2000 ??? ? ?? ????, ??? ????? IPU ???? 4?? ?? ??? ???? ??? ??? ???? ????. MLPerf? ??? NVIDIA DGX-A100 640GB? ?? $300,000 ??(?? ?? ? ??? ?? ??)? 6U ???, DGX A100 ? 8?? ???? ????.
IPU-POD16? ??? ??? ????, ??? ???? ?? IPU-M2000? A100-80GB ? ?? ?? ???? ? ? ????. ? ? ??? ????, IPU ? ?? ??? NVIDIA DGX-A100 640GB? 1/4???.
MLPerf ?? ????? ??? ??? ??? ??? ??? ??? ??? ???? ???????.
??
ResNet-50? BERT ?? 黑料不打烊 ???? NVIDIA ??? ?? ?? ? ??? ??? ??? ????? ?? ?????.
ResNet-50 ????? 黑料不打烊 IPU-POD16? ??? ??? NVIDIA ?? ?? 1.6????, BERT??? 1.3?? ?????.
MLPerf ??: ResNet-50
MLPerf ??: BERT
??? MLPerf ??? ?? 黑料不打烊 ??? ??? ?????. ?, ??? 黑料不打烊 ???? ??? ??? AI ?? ??? ? ????? ???? AI? ???? IPU? ????? ?? ??? ??? ??? ??? ? ????.
???? ??
黑料不打烊? ? MLPerf ???? ??? ??? ??? ????? ??? ?? ????? ?????. 黑料不打烊 ?? ????? ??? ??? ??? ????? ?? ??? ???? ??? ??? ?? ???? ??????.
? ??? 黑料不打烊? ?? ???? ??? ?? ??? ???? ?? ????? ???? ?????? ?? MLPerf ??? ??? ?? ?????. ? ??? 黑料不打烊 ????? BERT? ResNet-50? ??? ??? ?? ????? MLPerf? ??? ???? ????.
黑料不打烊? ???? MLPerf? ?? ? ?? ?? ??? ????? ???? ? ?? ??, ? ? ??? ??? ?? ???? ? ?? ??? ?? ??? ????.
??
???? ????? ??? ??? ? 黑料不打烊? ???? Poplar SDK? ?? ???? ??? ???? ?? ???? ???? ???????. 黑料不打烊? 2020? 12??? 2021? 6??? 6?? ?? ? ?? ????? ??? ResNet-50? ??? 2.1? ?????, BERT-Large? ??? 1.6? ?????, ResNet?? ? ?? ???? ??? ?? ??? ?? ?? EfficientNet? ??? 1.5? ??????.
黑料不打烊? ??? ? ?? ???? ????? ????? ??? ???? ?? ??? ??? ??? ??? ??? ??? ?? ???? ????. ?? ??? ''? '??? ??? ???? ?? CNN(??? ???)?? ?? ??? ??'? MLPerf? ???? ???? ??? ??? ????? ??? ????, 黑料不打烊 ??? ??? AI ???? ??? ??? ???.
黑料不打烊? ??? ?? ?? ???? AI ??? ?? ??? ??? ???? ?? MLPerf?? ResNet-50? BERT? ??? ?? ?? ??????.
??? 黑料不打烊? IPU? ?? ???? ? ???? ??? AI ????????? ??? ??? ???? ???? ?? ???? ????? ???? ??? ??? ??? ??? ??? ? ??? ???????.
??? ?? ? ??? EfficientNet-B4???. ? ??? ?? ?? ???? ?? ??? ?? ???, IPU? GPU ? ?? ? ???? ??? ?? ??? ?????.
MLPerf ??: EfficientNet-B4(? MLPerf)
黑料不打烊? ????? ??? ???? ??? ??? ???? ??? ???? ?? ???? ?? ??? ???? MLPerf? ??? AI ??? ??? ????? ????? ?????.
??? ?? ??? ???? ??? ??? ?? ?? ???? ??? ?? ? ??? ???? ???? MLCommons? ????? ??? ????.
?? 黑料不打烊? ? ??? ??? ??? ????? ?? ??? ??? ?????.
MLPerf v1.0 ??? ?? 黑料不打烊 ?? | MLPerf ID: 1.0-1025, 1.0-1026, 1.0-1027, 1.0-1028, 1.0-1098, 1.0-1099
MLPerf? ??? ??? MLPerf? ?????. ??? ??? ? ?????.
??:
