.84
8.16
8.09
7.65
6.25
V100
8
OOM
15.62
15.44
14.59
6.59
V100
10
OOM
19.52
19.28
18.18
6.86
V100
16
OOM
30.29
29.84
28.22
6.83







3090
1
2.94
2.5
2.42
2.33
6.80
3090
4
10.04
7.82
7.72
7.38
5.63
3090
8
19.27
14.97
14.88
14.15
5.48
3090
10
24.08
18.7
18.62
18.12
3.10
3090
16
OOM
29.06
28.88
28.2
2.96
3090
32 (1)

58.05
57.42
56.28
3.05
3090
64 (1)

126.54
114.27
112.21
11.32







3090 Ti
1
2.7
2.26
2.19
2.12
6.19
3090 Ti
4
9.07
7.14
7.00
6