id
stringlengths
1
6
tokens
sequence
labels
sequence
658100
[ "license", "import", "{", "getCoordsDataType", ",", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "SliceProgram", "implements", "WebGPUProgram", "{", "variableNames", "=", "[", "'source'", "]", ";", "uniforms", ":", "string", ";", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "rank", ":", "number", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "workPerThread", "=", "1", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "start", ":", "number", "[", "]", ";", "size", "=", "true", ";", "constructor", "(", "start", ",", "destSize", ")", "{", "this", ".", "outputShape", "=", "destSize", ";", "this", ".", "rank", "=", "destSize", ".", "length", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ",", "[", "this", ".", "workPerThread", ",", "1", ",", "1", "]", ")", ";", "this", ".", "start", "=", "start", ";", "this", ".", "uniforms", "=", "`start : ${", "getCoordsDataType", "(", "start", ".", "length", ")", "}; `", ";", "this", ".", "shaderKey", "=", "'slice'", ";", "}", "getUserCode", "(", ")", "{", "const", "dtype", "=", "getCoordsDataType", "(", "this", ".", "rank", ")", ";", "const", "sourceCoords", "=", "getCoords", "(", "this", ".", "rank", ")", ";", "let", "coordSum", ";", "if", "(", "this", ".", "start", ".", "length", "===", "1", ")", "{", "coordSum", "=", "this", ".", "outputShape", ".", "map", "(", "(", "_", ",", "i", ")", "=>", "{", "return", "`sourceLoc = uniforms.start + coords;`", ";", "}", ")", ";", "}", "else", "{", "coordSum", "=", "this", ".", "outputShape", ".", "map", "(", "(", "_", ",", "i", ")", "=>", "{", "return", "`sourceLoc.${", "coords", "[", "i", "]", "} = uniforms.start[${", "i", "}] + coords.${", "coords", "[", "i", "]", "};`", ";", "}", ")", ";", "}", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n var sourceLoc : ${", "dtype", "};\n let coords = getCoordsFromIndex(index);\n ${", "coordSum", ".", "join", "(", "'\\n'", ")", "}\n setOutputAtIndex(index, getSource(${", "sourceCoords", "}));\n }\n }\n `", ";", "return", "userCode", ";", "}", "}", "const", "coords", "=", "[", "'x'", ",", "'y'", ",", "'z'", ",", "'w'", ",", "'u'", ",", "'v'", "]", ";", "function", "getCoords", "(", "rank", ")", "{", "if", "(", "rank", "===", "1", ")", "{", "return", "'sourceLoc'", ";", "}", "else", "if", "(", "rank", "<=", "6", ")", "{", "return", "coords", ".", "slice", "(", "0", ",", "rank", ")", ".", "map", "(", "coord", "=>", "`sourceLoc.${", "coord", "}`", ")", ".", "join", "(", "','", ")", ";", "}", "else", "{", "throw", "Error", "(", "`Slicing for rank ${", "rank", "} is not yet supported`", ")", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658101
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "Slice", ",", "slice_util", ",", "SliceAttrs", ",", "SliceInputs", ",", "TensorInfo", ",", "TypedArray", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "sliceImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "SliceProgram", "}", "from", "'../slice_webgpu'", ";", "export", "function", "slice", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "begin", ",", "size", "}", "=", "attrs", ";", "const", "[", "$begin", ",", "$size", "]", "=", "slice_util", ".", "parseSliceParams", "(", "x", ",", "begin", ",", "size", ")", ";", "slice_util", ".", "assertParamsValid", "(", "x", ",", "$begin", ",", "$size", ")", ";", "if", "(", "backend", ".", "shouldExecuteOnCPU", "(", "[", "x", "]", ")", "||", "x", ".", "dtype", "===", "'string'", ")", "{", "const", "xBufferInfo", "=", "backend", ".", "tensorMap", ".", "get", "(", "x", ".", "dataId", ")", ";", "const", "outValues", "=", "sliceImplCPU", "(", "xBufferInfo", ".", "values", "as", "TypedArray", ",", "$begin", ",", "$size", ",", "x", ".", "shape", ",", "x", ".", "dtype", ")", ";", "return", "backend", ".", "makeTensorInfo", "(", "$size", ",", "x", ".", "dtype", ",", "outValues", ")", ";", "}", "if", "(", "util", ".", "sizeFromShape", "(", "$size", ")", "===", "0", ")", "{", "return", "backend", ".", "makeTensorInfo", "(", "$size", ",", "x", ".", "dtype", ",", "[", "]", ")", ";", "}", "const", "program", "=", "new", "SliceProgram", "(", "$begin", ",", "$size", ")", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "$begin", "}", "]", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", "]", ",", "x", ".", "dtype", ",", "uniformData", ")", ";", "}", "export", "const", "sliceConfig", "=", "{", "kernelName", ":", "Slice", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "slice", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658102
[ "license", "import", "{", "KernelConfig", ",", "NotEqual", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "notEqualImplCPU", "as", "cpuNotEqual", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "notEqual", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "NOT_EQUAL", ",", "dtype", ":", "'bool'", ",", "cpuKernelImpl", ":", "cpuNotEqual", "}", ")", ";", "export", "const", "notEqualConfig", "=", "{", "kernelName", ":", "NotEqual", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "notEqual", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658103
[ "license", "import", "{", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "UnaryOpProgram", "}", "from", "'../unary_op_webgpu'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "function", "int", "(", "input", ",", "backend", ")", "{", "const", "program", "=", "new", "UnaryOpProgram", "(", "input", ".", "shape", ",", "UnaryOpType", ".", "TO_INT", ")", ";", "const", "output", "=", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "input", "]", ",", "'int32'", ")", ";", "return", "{", "dataId", ":", "output", ".", "dataId", ",", "shape", ":", "output", ".", "shape", ",", "dtype", ":", "output", ".", "dtype", "}", ";", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 394, null, 25938, null, null, null, 19981, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658104
[ "license", "import", "{", "Ceil", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "ceilImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "ceil", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "CEIL", ",", "cpuKernelImpl", ":", "ceilImplCPU", "}", ")", ";", "export", "const", "ceilConfig", "=", "{", "kernelName", ":", "Ceil", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "ceil", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658105
[ "license", "import", "{", "ClipByValue", ",", "ClipByValueAttrs", ",", "ClipByValueInputs", ",", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "ClipVec4Program", "}", "from", "'../clip_vec4_webgpu'", ";", "import", "{", "ClipProgram", "}", "from", "'../clip_webgpu'", ";", "export", "function", "clipByValue", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "clipValueMin", ",", "clipValueMax", "}", "=", "attrs", ";", "let", "program", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'float32'", ",", "data", ":", "[", "clipValueMin", "]", "}", ",", "{", "type", ":", "'float32'", ",", "data", ":", "[", "clipValueMax", "]", "}", "]", ";", "if", "(", "util", ".", "sizeFromShape", "(", "x", ".", "shape", ")", "%", "4", "===", "0", ")", "{", "program", "=", "new", "ClipVec4Program", "(", "x", ".", "shape", ")", ";", "}", "else", "{", "program", "=", "new", "ClipProgram", "(", "x", ".", "shape", ")", ";", "}", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", "]", ",", "x", ".", "dtype", ",", "uniformData", ")", ";", "}", "export", "const", "clipByValueConfig", "=", "{", "kernelName", ":", "ClipByValue", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "clipByValue", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658106
[ "license", "import", "{", "Imag", ",", "ImagInputs", ",", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "identity", "}", "from", "'./Identity'", ";", "export", "function", "imag", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", "}", "=", "args", ";", "const", "{", "input", "}", "=", "inputs", ";", "const", "inputData", "=", "backend", ".", "tensorMap", ".", "get", "(", "input", ".", "dataId", ")", ";", "return", "identity", "(", "{", "inputs", ":", "{", "x", ":", "inputData", ".", "complexTensorInfos", ".", "imag", "}", ",", "backend", "}", ")", ";", "}", "export", "const", "imagConfig", "=", "{", "kernelName", ":", "Imag", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "imag", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658107
[ "license", "import", "{", "backend_util", ",", "ConcatInputs", ",", "TensorInfo", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "concatImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "complex", "}", "from", "'./Complex'", ";", "import", "{", "ConcatProgram", "}", "from", "'../concat_webgpu'", ";", "import", "{", "imag", "}", "from", "'./Imag'", ";", "import", "{", "real", "}", "from", "'./Real'", ";", "import", "{", "reshape", "}", "from", "'./Reshape'", ";", "export", "function", "concatImpl", "(", "inputs", ",", "axis", ",", "backend", ")", "{", "const", "dtype", "=", "inputs", "[", "0", "]", ".", "dtype", ";", "if", "(", "dtype", "===", "'complex64'", ")", "{", "const", "reals", "=", "inputs", ".", "map", "(", "(", "t", ")", "=>", "real", "(", "{", "inputs", ":", "{", "input", ":", "t", "}", ",", "backend", "}", ")", ")", ";", "const", "imags", "=", "inputs", ".", "map", "(", "(", "t", ")", "=>", "imag", "(", "{", "inputs", ":", "{", "input", ":", "t", "}", ",", "backend", "}", ")", ")", ";", "const", "realConcated", "=", "concatImpl", "(", "reals", ",", "axis", ",", "backend", ")", ";", "const", "imagConcated", "=", "concatImpl", "(", "imags", ",", "axis", ",", "backend", ")", ";", "const", "result", "=", "complex", "(", "{", "inputs", ":", "{", "real", ":", "realConcated", ",", "imag", ":", "imagConcated", "}", ",", "backend", "}", ")", ";", "reals", ".", "forEach", "(", "r", "=>", "backend", ".", "disposeData", "(", "r", ".", "dataId", ")", ")", ";", "imags", ".", "forEach", "(", "i", "=>", "backend", ".", "disposeData", "(", "i", ".", "dataId", ")", ")", ";", "backend", ".", "disposeData", "(", "realConcated", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "imagConcated", ".", "dataId", ")", ";", "return", "result", ";", "}", "let", "runOnCpu", "=", "backend", ".", "shouldExecuteOnCPU", "(", "inputs", ")", ";", "if", "(", "dtype", "===", "'string'", ")", "{", "runOnCpu", "=", "true", ";", "}", "if", "(", "runOnCpu", ")", "{", "const", "tensors2D", "=", "inputs", ".", "map", "(", "t", "=>", "{", "const", "innerSize", "=", "util", ".", "sizeFromShape", "(", "t", ".", "shape", ".", "slice", "(", "axis", ")", ")", ";", "const", "shape", "=", "[", "-", "1", ",", "innerSize", "]", ";", "return", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "t", "}", ",", "backend", ",", "attrs", ":", "{", "shape", "}", "}", ")", ";", "}", ")", ";", "const", "inputsValShapes", "=", "tensors2D", ".", "map", "(", "t", "=>", "{", "return", "{", "vals", ":", "backend", ".", "readSync", "(", "t", ".", "dataId", ")", ",", "shape", ":", "t", ".", "shape", "}", ";", "}", ")", ";", "const", "outShape", "=", "backend_util", ".", "computeOutShape", "(", "tensors2D", ".", "map", "(", "t", "=>", "t", ".", "shape", ")", ",", "1", ")", ";", "const", "simplyConcat", "=", "tensors2D", "[", "0", "]", ".", "shape", "[", "0", "]", "===", "1", ";", "const", "outVals", "=", "concatImplCPU", "(", "inputsValShapes", ",", "outShape", ",", "dtype", ",", "simplyConcat", ")", ";", "const", "finalOutShape", "=", "backend_util", ".", "computeOutShape", "(", "inputs", ".", "map", "(", "t", "=>", "t", ".", "shape", ")", ",", "axis", ")", ";", "const", "outInfo", "=", "backend", ".", "makeTensorInfo", "(", "finalOutShape", ",", "dtype", ",", "outVals", ")", ";", "tensors2D", ".", "forEach", "(", "t", "=>", "backend", ".", "disposeData", "(", "t", ".", "dataId", ")", ")", ";", "return", "outInfo", ";", "}", "const", "{", "tensors2D", ",", "outShape", "}", "=", "computeTensors2D", "(", "inputs", ",", "axis", ",", "backend", ")", ";", "const", "shapes", "=", "(", "tensors2D", ")", ".", "map", "(", "t", "=>", "t", ".", "shape", "as", "[", "number", ",", "number", "]", ")", ";", "const", "program", "=", "new", "ConcatProgram", "(", "shapes", ")", ";", "const", "uniformData", "=", "[", "]", ";", "const", "offsets", "=", "new", "Array", "(", "shapes", ".", "length", "-", "1", ")", ";", "if", "(", "offsets", ".", "length", ">", "0", ")", "{", "offsets", "[", "0", "]", "=", "shapes", "[", "0", "]", "[", "1", "]", ";", "uniformData", ".", "push", "(", "{", "type", ":", "'int32'", ",", "data", ":", "[", "offsets", "[", "0", "]", "]", "}", ")", ";", "for", "(", "let", "i", "=", "1", ";", "i", "<", "offsets", ".", "length", ";", "i", "++", ")", "{", "offsets", "[", "i", "]", "=", "offsets", "[", "i", "-", "1", "]", "+", "shapes", "[", "i", "]", "[", "1", "]", ";", "uniformData", ".", "push", "(", "{", "type", ":", "'int32'", ",", "data", ":", "[", "offsets", "[", "i", "]", "]", "}", ")", ";", "}", "}", "const", "res", "=", "backend", ".", "runWebGPUProgram", "(", "program", ",", "tensors2D", ",", "tensors2D", "[", "0", "]", ".", "dtype", ",", "uniformData", ")", ";", "tensors2D", ".", "forEach", "(", "r", "=>", "backend", ".", "disposeData", "(", "r", ".", "dataId", ")", ")", ";", "const", "reshapedResult", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "res", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "outShape", "}", "}", ")", ";", "backend", ".", "disposeData", "(", "res", ".", "dataId", ")", ";", "return", "reshapedResult", ";", "}", "function", "computeTensors2D", "(", "inputs", ",", "axis", ",", "backend", ")", "{", "const", "outShape", "=", "backend_util", ".", "computeOutShape", "(", "inputs", ".", "map", "(", "t", "=>", "t", ".", "shape", ")", ",", "axis", ")", ";", "const", "tensors2D", "=", "inputs", ".", "map", "(", "t", "=>", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "t", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "util", ".", "sizeFromShape", "(", "t", ".", "shape", ".", "slice", "(", "0", ",", "axis", ")", ")", ",", "util", ".", "sizeFromShape", "(", "t", ".", "shape", ".", "slice", "(", "axis", ")", ")", "]", "}", "}", ")", ")", ";", "return", "{", "tensors2D", ",", "outShape", "}", ";", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 23478, null, 3, null, 25938, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, 13, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, 23478, null, 3, null, 25938, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658108
[ "license", "import", "{", "backend_util", ",", "env", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "batchMatMulImpl", "}", "from", "'./BatchMatMul_impl'", ";", "import", "{", "Im2ColProgram", "}", "from", "'../im2col_webgpu'", ";", "import", "{", "MatMulPackedProgram", "}", "from", "'../matmul_packed_webgpu'", ";", "import", "{", "reshape", "}", "from", "'./Reshape'", ";", "type", "Conv2DConfig", "=", "{", "x", ":", "TensorInfo", ";", "filter", ":", "TensorInfo", ";", "convInfo", ":", "backend_util", ".", "Conv2DInfo", ";", "backend", ":", "WebGPUBackend", ";", "bias", "?", ":", "TensorInfo", ";", "preluActivationWeights", "?", ":", "TensorInfo", ";", "leakyreluAlpha", "?", ":", "number", ";", "activation", "?", ":", "backend_util", ".", "Activation", ";", "}", ";", "export", "function", "conv2dByMatMul", "(", "{", "x", ",", "filter", ",", "convInfo", ",", "backend", ",", "bias", "=", "null", ",", "preluActivationWeights", "=", "null", ",", "leakyreluAlpha", "=", "0", ",", "activation", "=", "null", "}", ")", "{", "const", "xShape", "=", "x", ".", "shape", ";", "const", "isChannelsLast", "=", "convInfo", ".", "dataFormat", "===", "'channelsLast'", ";", "const", "transposeA", "=", "false", ";", "const", "transposeB", "=", "false", ";", "const", "targetShape", "=", "isChannelsLast", "?", "xShape", "[", "0", "]", "*", "xShape", "[", "1", "]", "*", "xShape", "[", "2", "]", ":", "xShape", "[", "0", "]", "*", "xShape", "[", "2", "]", "*", "xShape", "[", "3", "]", ";", "const", "xReshaped", "=", "reshape", "(", "{", "inputs", ":", "{", "x", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "1", ",", "targetShape", ",", "convInfo", ".", "inChannels", "]", "}", "}", ")", ";", "const", "filterReshaped", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "filter", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "1", ",", "convInfo", ".", "inChannels", ",", "convInfo", ".", "outChannels", "]", "}", "}", ")", ";", "const", "result", "=", "batchMatMulImpl", "(", "{", "a", ":", "xReshaped", ",", "b", ":", "filterReshaped", ",", "transposeA", ",", "transposeB", ",", "backend", ",", "bias", ",", "activation", ",", "preluActivationWeights", ",", "leakyreluAlpha", "}", ")", ";", "const", "out", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "result", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "convInfo", ".", "outShape", "}", "}", ")", ";", "backend", ".", "disposeData", "(", "xReshaped", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "filterReshaped", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "result", ".", "dataId", ")", ";", "return", "out", ";", "}", "export", "function", "conv2dWithIm2Col", "(", "{", "x", ",", "filter", ",", "convInfo", ",", "backend", ",", "bias", "=", "null", ",", "preluActivationWeights", "=", "null", ",", "leakyreluAlpha", "=", "0", ",", "activation", "=", "null", "}", ")", "{", "const", "{", "filterWidth", ",", "filterHeight", ",", "inChannels", ",", "strideWidth", ",", "strideHeight", ",", "padInfo", ",", "outWidth", ",", "outHeight", ",", "dilationWidth", ",", "dilationHeight", ",", "dataFormat", "}", "=", "convInfo", ";", "const", "isChannelsLast", "=", "dataFormat", "===", "'channelsLast'", ";", "const", "sharedDim", "=", "filterWidth", "*", "filterHeight", "*", "inChannels", ";", "const", "numCols", "=", "outHeight", "*", "outWidth", ";", "const", "x2ColShape", "=", "[", "numCols", ",", "sharedDim", "]", ";", "const", "transposeA", "=", "false", ";", "const", "transposeB", "=", "false", ";", "const", "intermediates", "=", "[", "]", ";", "const", "xSqueezed", "=", "reshape", "(", "{", "inputs", ":", "{", "x", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "x", ".", "shape", ".", "slice", "(", "1", ")", "}", "}", ")", ";", "const", "w2Row", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "filter", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "1", ",", "sharedDim", ",", "-", "1", "]", "}", "}", ")", ";", "intermediates", ".", "push", "(", "xSqueezed", ")", ";", "intermediates", ".", "push", "(", "w2Row", ")", ";", "const", "im2ColProgram", "=", "new", "Im2ColProgram", "(", "x2ColShape", ",", "isChannelsLast", ")", ";", "const", "dimensions", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "padInfo", ".", "left", ",", "padInfo", ".", "top", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "strideWidth", ",", "strideHeight", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dilationWidth", ",", "dilationHeight", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "outWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "inChannels", "*", "filterWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "inChannels", "]", "}", "]", ";", "const", "im2Col", "=", "backend", ".", "runWebGPUProgram", "(", "im2ColProgram", ",", "[", "xSqueezed", "]", ",", "xSqueezed", ".", "dtype", ",", "dimensions", ")", ";", "const", "im2Col3D", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "im2Col", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "1", ",", "x2ColShape", "[", "0", "]", ",", "x2ColShape", "[", "1", "]", "]", "}", "}", ")", ";", "intermediates", ".", "push", "(", "im2Col", ")", ";", "intermediates", ".", "push", "(", "im2Col3D", ")", ";", "const", "a3dShape", "=", "[", "1", ",", "x2ColShape", "[", "0", "]", ",", "x2ColShape", "[", "1", "]", "]", ";", "const", "matMulProgram", "=", "new", "MatMulPackedProgram", "(", "a3dShape", ",", "[", "1", ",", "numCols", ",", "convInfo", ".", "outChannels", "]", ",", "env", "(", ")", ".", "get", "(", "'WEBGPU_MATMUL_WORK_PER_THREAD'", ")", "as", "number", ",", "transposeA", ",", "transposeB", ")", ";", "const", "dimAOuter", "=", "a3dShape", "[", "1", "]", ";", "const", "dimInner", "=", "a3dShape", "[", "2", "]", ";", "const", "dimBOuter", "=", "convInfo", ".", "outChannels", ";", "const", "matmulDimensions", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dimAOuter", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dimBOuter", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dimInner", "]", "}", "]", ";", "const", "result", "=", "backend", ".", "runWebGPUProgram", "(", "matMulProgram", ",", "[", "im2Col3D", ",", "w2Row", "]", ",", "im2Col3D", ".", "dtype", ",", "matmulDimensions", ")", ";", "const", "outShape", "=", "isChannelsLast", "?", "[", "1", ",", "outHeight", ",", "outWidth", ",", "convInfo", ".", "outChannels", "]", ":", "[", "1", ",", "convInfo", ".", "outChannels", ",", "outHeight", ",", "outWidth", "]", ";", "const", "out", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "result", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "outShape", "}", "}", ")", ";", "intermediates", ".", "push", "(", "result", ")", ";", "for", "(", "const", "i", "of", "intermediates", ")", "{", "backend", ".", "disposeData", "(", "i", ".", "dataId", ")", ";", "}", "return", "out", ";", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658109
[ "license", "import", "{", "backend_util", ",", "Conv2D", ",", "Conv2DAttrs", ",", "Conv2DInputs", ",", "env", ",", "KernelConfig", ",", "KernelFunc", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "conv2dByMatMul", ",", "conv2dWithIm2Col", "}", "from", "'./Conv2D_impl'", ";", "import", "{", "Conv2DMMVec4Program", "}", "from", "'../conv2d_mm_vec4_webgpu'", ";", "import", "{", "Conv2DMMProgram", "}", "from", "'../conv2d_mm_webgpu'", ";", "import", "{", "Conv2DNaiveProgram", "}", "from", "'../conv2d_naive_webgpu'", ";", "export", "function", "conv2d", "(", "args", ")", "{", "const", "{", "inputs", ",", "attrs", ",", "backend", "}", "=", "args", ";", "const", "{", "x", ",", "filter", "}", "=", "inputs", ";", "const", "{", "strides", ",", "pad", ",", "dataFormat", ",", "dilations", ",", "dimRoundingMode", "}", "=", "attrs", ";", "const", "$dataFormat", "=", "backend_util", ".", "convertConv2DDataFormat", "(", "dataFormat", ")", ";", "const", "convInfo", "=", "backend_util", ".", "computeConv2DInfo", "(", "x", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "filter", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "strides", ",", "dilations", ",", "pad", ",", "dimRoundingMode", ",", "false", ",", "$dataFormat", ")", ";", "if", "(", "convInfo", ".", "filterHeight", "===", "1", "&&", "convInfo", ".", "filterWidth", "===", "1", "&&", "convInfo", ".", "dilationHeight", "===", "1", "&&", "convInfo", ".", "dilationWidth", "===", "1", "&&", "convInfo", ".", "strideHeight", "===", "1", "&&", "convInfo", ".", "strideWidth", "===", "1", "&&", "(", "convInfo", ".", "padInfo", ".", "type", "===", "'SAME'", "||", "convInfo", ".", "padInfo", ".", "type", "===", "'VALID'", ")", ")", "{", "return", "conv2dByMatMul", "(", "{", "x", ",", "filter", ",", "convInfo", ",", "backend", "}", ")", ";", "}", "if", "(", "env", "(", ")", ".", "getBool", "(", "'WEBGPU_CONV_SEPARATE_IM2COL_SHADER'", ")", "&&", "x", ".", "shape", "[", "0", "]", "===", "1", ")", "{", "return", "conv2dWithIm2Col", "(", "{", "x", ",", "filter", ",", "convInfo", ",", "backend", "}", ")", ";", "}", "let", "program", ";", "const", "padInfo", "=", "[", "convInfo", ".", "padInfo", ".", "top", ",", "convInfo", ".", "padInfo", ".", "left", "]", ";", "const", "dimensions", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "filterHeight", ",", "convInfo", ".", "filterWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "...", "padInfo", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "strideHeight", ",", "convInfo", ".", "strideWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "dilationHeight", ",", "convInfo", ".", "dilationWidth", "]", "}", "]", ";", "const", "useNaive", "=", "env", "(", ")", ".", "getBool", "(", "'WEBGPU_USE_NAIVE_CONV2D'", ")", ";", "if", "(", "useNaive", ")", "{", "program", "=", "new", "Conv2DNaiveProgram", "(", "convInfo", ")", ";", "}", "else", "if", "(", "(", "convInfo", ".", "inChannels", "%", "4", "===", "0", "||", "(", "convInfo", ".", "inChannels", "===", "3", "&&", "convInfo", ".", "padInfo", ".", "type", "===", "'VALID'", ")", ")", "&&", "convInfo", ".", "outChannels", "%", "4", "===", "0", "&&", "convInfo", ".", "outChannels", ">=", "64", ")", "{", "program", "=", "new", "Conv2DMMVec4Program", "(", "convInfo", ")", ";", "}", "else", "{", "program", "=", "new", "Conv2DMMProgram", "(", "convInfo", ")", ";", "}", "if", "(", "!", "useNaive", ")", "{", "const", "dimAOuter", "=", "convInfo", ".", "outShape", "[", "1", "]", "*", "convInfo", ".", "outShape", "[", "2", "]", ";", "const", "dimBOuter", "=", "convInfo", ".", "outShape", "[", "3", "]", ";", "const", "dimInner", "=", "convInfo", ".", "filterHeight", "*", "convInfo", ".", "filterWidth", "*", "convInfo", ".", "inShape", "[", "3", "]", ";", "dimensions", ".", "push", "(", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dimAOuter", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dimBOuter", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dimInner", "]", "}", ")", ";", "}", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", ",", "filter", "]", ",", "x", ".", "dtype", ",", "dimensions", ")", ";", "}", "export", "const", "conv2DConfig", "=", "{", "kernelName", ":", "Conv2D", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "conv2d", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658110
[ "license", "import", "{", "backend_util", ",", "Conv2DBackpropInput", ",", "Conv2DBackpropInputAttrs", ",", "Conv2DBackpropInputInputs", ",", "env", ",", "KernelConfig", ",", "KernelFunc", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "Conv2DDerInputMMProgram", "}", "from", "'../conv_backprop_mm_webgpu'", ";", "import", "{", "Conv2DDerInputProgram", "}", "from", "'../conv_backprop_webgpu'", ";", "export", "function", "conv2DBackpropInput", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "dy", ",", "filter", "}", "=", "inputs", ";", "const", "{", "inputShape", ",", "strides", ",", "pad", ",", "dataFormat", ",", "dimRoundingMode", "}", "=", "attrs", ";", "const", "$dataFormat", "=", "backend_util", ".", "convertConv2DDataFormat", "(", "dataFormat", ")", ";", "const", "convInfo", "=", "backend_util", ".", "computeConv2DInfo", "(", "inputShape", ",", "filter", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "strides", ",", "1", ",", "pad", ",", "dimRoundingMode", ",", "false", ",", "$dataFormat", ")", ";", "const", "dimensions", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "filterHeight", ",", "convInfo", ".", "filterWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "filterHeight", "-", "1", "-", "convInfo", ".", "padInfo", ".", "top", ",", "convInfo", ".", "filterWidth", "-", "1", "-", "convInfo", ".", "padInfo", ".", "left", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "strideHeight", ",", "convInfo", ".", "strideWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "batchSize", ",", "convInfo", ".", "outHeight", ",", "convInfo", ".", "outWidth", ",", "convInfo", ".", "outChannels", "]", "}", ",", "]", ";", "let", "program", ";", "if", "(", "env", "(", ")", ".", "getBool", "(", "'WEBGPU_USE_NAIVE_CONV2D_TRANSPOSE'", ")", ")", "{", "program", "=", "new", "Conv2DDerInputProgram", "(", "convInfo", ")", ";", "}", "else", "{", "program", "=", "new", "Conv2DDerInputMMProgram", "(", "convInfo", ")", ";", "const", "dimAOuter", "=", "convInfo", ".", "inShape", "[", "1", "]", "*", "convInfo", ".", "inShape", "[", "2", "]", ";", "const", "dimBOuter", "=", "convInfo", ".", "inShape", "[", "3", "]", ";", "const", "dimInner", "=", "convInfo", ".", "filterHeight", "*", "convInfo", ".", "filterWidth", "*", "convInfo", ".", "outChannels", ";", "dimensions", ".", "push", "(", "{", "type", ":", "'uint32'", ",", "data", ":", "[", "dimAOuter", "]", "}", ",", "{", "type", ":", "'uint32'", ",", "data", ":", "[", "dimBOuter", "]", "}", ",", "{", "type", ":", "'uint32'", ",", "data", ":", "[", "dimInner", "]", "}", ")", ";", "}", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "dy", ",", "filter", "]", ",", "'float32'", ",", "dimensions", ")", ";", "}", "export", "const", "conv2DBackpropInputConfig", "=", "{", "kernelName", ":", "Conv2DBackpropInput", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "conv2DBackpropInput", "as", "{", "}", "as", "KernelFunc", ",", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658111
[ "license", "import", "{", "Cos", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "cos", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "COS", "}", ")", ";", "export", "const", "cosConfig", "=", "{", "kernelName", ":", "Cos", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "cos", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658112
[ "license", "import", "{", "Cosh", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "cosh", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "COSH", "}", ")", ";", "export", "const", "coshConfig", "=", "{", "kernelName", ":", "Cosh", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "cosh", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658113
[ "license", "import", "{", "CropAndResize", ",", "CropAndResizeAttrs", ",", "CropAndResizeInputs", ",", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "CropAndResizeProgram", "}", "from", "'../crop_and_resize_webgpu'", ";", "export", "const", "cropAndResize", "=", "(", "args", ")", ":", "TensorInfo", "=>", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "image", ",", "boxes", ",", "boxInd", "}", "=", "inputs", ";", "const", "{", "cropSize", ",", "method", ",", "extrapolationValue", "}", "=", "attrs", ";", "const", "program", "=", "new", "CropAndResizeProgram", "(", "image", ".", "shape", "[", "3", "]", ",", "boxes", ".", "shape", "as", "[", "number", ",", "number", "]", ",", "cropSize", ",", "method", ")", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'float32'", ",", "data", ":", "[", "extrapolationValue", "]", "}", "]", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "image", ",", "boxes", ",", "boxInd", "]", ",", "'float32'", ",", "uniformData", ")", ";", "}", ";", "export", "const", "cropAndResizeConfig", "=", "{", "kernelName", ":", "CropAndResize", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "cropAndResize", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658114
[ "license", "import", "{", "DepthToSpace", ",", "DepthToSpaceAttrs", ",", "DepthToSpaceInputs", ",", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "DepthToSpaceProgram", "}", "from", "'../depth_to_space_webgpu'", ";", "export", "function", "depthToSpace", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "blockSize", ",", "dataFormat", "}", "=", "attrs", ";", "const", "batchSize", "=", "x", ".", "shape", "[", "0", "]", ";", "const", "inputHeight", "=", "(", "dataFormat", "===", "'NHWC'", ")", "?", "x", ".", "shape", "[", "1", "]", ":", "x", ".", "shape", "[", "2", "]", ";", "const", "inputWidth", "=", "(", "dataFormat", "===", "'NHWC'", ")", "?", "x", ".", "shape", "[", "2", "]", ":", "x", ".", "shape", "[", "3", "]", ";", "const", "inputDepth", "=", "(", "dataFormat", "===", "'NHWC'", ")", "?", "x", ".", "shape", "[", "3", "]", ":", "x", ".", "shape", "[", "1", "]", ";", "const", "outputHeight", "=", "inputHeight", "*", "blockSize", ";", "const", "outputWidth", "=", "inputWidth", "*", "blockSize", ";", "const", "outputDepth", "=", "inputDepth", "/", "(", "blockSize", "*", "blockSize", ")", ";", "const", "outputShape", "=", "(", "dataFormat", "===", "'NHWC'", ")", "?", "[", "batchSize", ",", "outputHeight", ",", "outputWidth", ",", "outputDepth", "]", ":", "[", "batchSize", ",", "outputDepth", ",", "outputHeight", ",", "outputWidth", "]", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "blockSize", "]", "}", ",", "]", ";", "const", "program", "=", "new", "DepthToSpaceProgram", "(", "outputShape", ",", "dataFormat", ")", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", "]", ",", "x", ".", "dtype", ",", "uniformData", ")", ";", "}", "export", "const", "depthToSpaceConfig", "=", "{", "kernelName", ":", "DepthToSpace", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "depthToSpace", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, 3, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658115
[ "license", "import", "{", "backend_util", ",", "DepthwiseConv2dNative", ",", "DepthwiseConv2dNativeAttrs", ",", "DepthwiseConv2dNativeInputs", ",", "KernelConfig", ",", "KernelFunc", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "DepthwiseConv2D3x3Program", "}", "from", "'../depthwise_conv2d_3x3_webgpu'", ";", "import", "{", "DepthwiseConv2DProgram", "}", "from", "'../depthwise_conv2d_webgpu'", ";", "export", "function", "depthwiseConv2dNative", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", ",", "filter", "}", "=", "inputs", ";", "const", "{", "strides", ",", "pad", ",", "dilations", ",", "dimRoundingMode", "}", "=", "attrs", ";", "let", "$dilations", "=", "dilations", ";", "if", "(", "$dilations", "==", "null", ")", "{", "$dilations", "=", "[", "1", ",", "1", "]", ";", "}", "const", "convInfo", "=", "backend_util", ".", "computeConv2DInfo", "(", "x", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "filter", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "strides", ",", "$dilations", ",", "pad", ",", "dimRoundingMode", ",", "true", ")", ";", "const", "dimensions", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "padInfo", ".", "top", ",", "convInfo", ".", "padInfo", ".", "left", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "strideHeight", ",", "convInfo", ".", "strideWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "dilationHeight", ",", "convInfo", ".", "dilationWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "inHeight", ",", "convInfo", ".", "inWidth", "]", "}", "]", ";", "let", "program", ";", "if", "(", "convInfo", ".", "batchSize", "===", "1", "&&", "convInfo", ".", "inHeight", "===", "convInfo", ".", "outHeight", "&&", "convInfo", ".", "inWidth", "===", "convInfo", ".", "outWidth", "&&", "convInfo", ".", "strideHeight", "===", "1", "&&", "convInfo", ".", "strideWidth", "===", "1", "&&", "convInfo", ".", "filterHeight", "===", "convInfo", ".", "filterWidth", "&&", "convInfo", ".", "inChannels", "===", "convInfo", ".", "outChannels", "&&", "convInfo", ".", "filterHeight", "===", "3", "&&", "convInfo", ".", "inChannels", "%", "4", "===", "0", ")", "{", "program", "=", "new", "DepthwiseConv2D3x3Program", "(", "convInfo", ")", ";", "}", "else", "{", "program", "=", "new", "DepthwiseConv2DProgram", "(", "convInfo", ")", ";", "dimensions", ".", "push", "(", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "filterHeight", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "filterWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "outChannels", "/", "convInfo", ".", "inChannels", "]", "}", ")", ";", "}", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", ",", "filter", "]", ",", "x", ".", "dtype", ",", "dimensions", ")", ";", "}", "export", "const", "depthwiseConv2dNativeConfig", "=", "{", "kernelName", ":", "DepthwiseConv2dNative", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "depthwiseConv2dNative", "as", "{", "}", "as", "KernelFunc", ",", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658116
[ "license", "import", "{", "KernelConfig", ",", "Multiply", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "multiplyImplCPU", "as", "cpuMultiply", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "multiplyKernelFunc", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "MUL", ",", "cpuKernelImpl", ":", "cpuMultiply", ",", "supportsComplex", ":", "true", "}", ")", ";", "export", "const", "multiplyConfig", "=", "{", "kernelName", ":", "Multiply", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "multiplyKernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658117
[ "license", "import", "{", "backend_util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "export", "class", "ReduceProgram", "implements", "WebGPUProgram", "{", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "variableNames", "=", "[", "'x'", "]", ";", "uniforms", "=", "'reduceSize : i32;'", ";", "reduceType", ":", "'max'", "|", "'mean'", "|", "'min'", "|", "'prod'", "|", "'sum'", ";", "inputShape", ":", "number", "[", "]", ";", "size", "=", "true", ";", "constructor", "(", "reduceInfo", ",", "reduceType", ")", "{", "this", ".", "inputShape", "=", "[", "reduceInfo", ".", "batchSize", ",", "reduceInfo", ".", "inSize", "]", ";", "const", "[", "outputShape", ",", "]", "=", "backend_util", ".", "computeOutAndReduceShapes", "(", "this", ".", "inputShape", ",", "[", "1", "]", ")", ";", "this", ".", "outputShape", "=", "outputShape", ".", "length", "===", "0", "?", "[", "1", "]", ":", "outputShape", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "[", "1", ",", "1", ",", "1", "]", ")", ";", "this", ".", "reduceType", "=", "reduceType", ";", "this", ".", "shaderKey", "=", "`reduce_${", "reduceType", "}`", ";", "}", "getUserCode", "(", ")", "{", "let", "reduceOp", "=", "``", ";", "let", "initValue", "=", "'0.0'", ";", "if", "(", "this", ".", "reduceType", "===", "'min'", "||", "this", ".", "reduceType", "===", "'max'", ")", "{", "reduceOp", "=", "`\n if (isNanCustom(candidate)) {\n bestValue = uniforms.NAN;\n } else if (!isNanCustom(bestValue) && candidate ${", "this", ".", "reduceType", "===", "'min'", "?", "'<'", ":", "'>'", "} bestValue)\n { bestValue = candidate; }`", ";", "initValue", "=", "'f32(x.numbers[offset])'", ";", "}", "else", "if", "(", "this", ".", "reduceType", "===", "'sum'", "||", "this", ".", "reduceType", "===", "'mean'", ")", "{", "reduceOp", "=", "' bestValue = bestValue + candidate; '", ";", "}", "else", "if", "(", "this", ".", "reduceType", "===", "'prod'", ")", "{", "reduceOp", "=", "' bestValue = bestValue * candidate; '", ";", "initValue", "=", "'1.0'", ";", "}", "const", "outputSnippet", "=", "this", ".", "reduceType", "===", "'mean'", "?", "`setOutputAtIndex(outputIndex, bestValue / f32(uniforms.reduceSize));`", ":", "`setOutputAtIndex(outputIndex, bestValue);`", ";", "const", "sharedMemorySnippet", "=", "`\n var<workgroup> xBestValues : array<f32, ${", "this", ".", "workGroupSize", "[", "0", "]", "}>;\n `", ";", "const", "userCode", "=", "`\n fn DIV_CEIL(a : u32, b : u32) -> u32 {\n return ((a - 1u) / b + 1u);\n }\n\n ${", "sharedMemorySnippet", "}\n fn getOffset(outputIndex : i32) -> i32 {\n let outputCoords = getCoordsFromIndex(outputIndex);\n let offset = ${", "this", ".", "outputShape", ".", "length", "===", "1", "?", "'outputCoords'", ":", "'outputCoords[0]'", "} * uniforms.reduceSize;\n return offset;\n }\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n let outputIndex = index / i32(workGroupSizeX);\n let offset = getOffset(outputIndex);\n var bestValue = ${", "initValue", "};\n let Length = uniforms.reduceSize;\n let WorkPerThread = DIV_CEIL(u32(Length), workGroupSizeX);\n for (var k = i32(localId.x); k < Length && outputIndex < uniforms.size;\n k = k + i32(workGroupSizeX)) {\n let candidate = f32(x.numbers[offset + k]);\n ${", "reduceOp", "}\n }\n xBestValues[localId.x] = bestValue;\n workgroupBarrier();\n\n var reduceSize = min(u32(Length), workGroupSizeX);\n for (var currentSize = reduceSize / 2u; reduceSize > 1u;\n currentSize = reduceSize / 2u) {\n let interval = DIV_CEIL(reduceSize, 2u);\n if (localId.x < currentSize) {\n let candidate = xBestValues[localId.x + interval];\n ${", "reduceOp", "}\n xBestValues[localId.x] = bestValue;\n }\n reduceSize = interval;\n workgroupBarrier();\n }\n\n if (localId.x == 0u && outputIndex < uniforms.size) {\n ${", "outputSnippet", "}\n }\n }\n `", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 24776, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658118
[ "license", "import", "{", "backend_util", ",", "sumOutType", ",", "TensorInfo", ",", "TypedArray", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "maxImplCPU", "}", "from", "'./shared'", ";", "import", "{", "prodImplCPU", "}", "from", "'./shared'", ";", "import", "{", "ReduceProgram", "}", "from", "'../reduce_webgpu'", ";", "import", "{", "reshape", "}", "from", "'../kernels/Reshape'", ";", "import", "{", "transpose", "}", "from", "'../kernels/Transpose'", ";", "type", "ReduceTypes", "=", "'max'", "|", "'mean'", "|", "'min'", "|", "'prod'", "|", "'sum'", ";", "export", "function", "reduce", "(", "x", ",", "axis", ",", "keepDims", ",", "reduceType", ",", "backend", ")", "{", "const", "xRank", "=", "x", ".", "shape", ".", "length", ";", "const", "toDispose", "=", "[", "]", ";", "const", "origAxes", "=", "util", ".", "parseAxisParam", "(", "axis", ",", "x", ".", "shape", ")", ";", "let", "axes", "=", "origAxes", ";", "const", "permutedAxes", "=", "backend_util", ".", "getAxesPermutation", "(", "axes", ",", "xRank", ")", ";", "let", "input", "=", "x", ";", "if", "(", "permutedAxes", "!=", "null", ")", "{", "input", "=", "transpose", "(", "{", "inputs", ":", "{", "x", "}", ",", "attrs", ":", "{", "perm", ":", "permutedAxes", "}", ",", "backend", "}", ")", ";", "axes", "=", "backend_util", ".", "getInnerMostAxes", "(", "axes", ".", "length", ",", "xRank", ")", ";", "toDispose", ".", "push", "(", "input", ")", ";", "}", "backend_util", ".", "assertAxesAreInnerMostDims", "(", "reduceType", ",", "axes", ",", "xRank", ")", ";", "const", "[", "reduceOutShape", ",", "reduceShape", "]", "=", "backend_util", ".", "computeOutAndReduceShapes", "(", "input", ".", "shape", ",", "axes", ")", ";", "let", "resOutShape", "=", "reduceOutShape", ";", "if", "(", "keepDims", ")", "{", "resOutShape", "=", "backend_util", ".", "expandShapeToKeepDim", "(", "reduceOutShape", ",", "origAxes", ")", ";", "}", "let", "res", ";", "if", "(", "(", "reduceType", "===", "'max'", "||", "reduceType", "===", "'prod'", ")", "&&", "backend", ".", "shouldExecuteOnCPU", "(", "[", "input", "]", ")", ")", "{", "const", "xVals", "=", "backend", ".", "tensorMap", ".", "get", "(", "input", ".", "dataId", ")", ".", "values", "as", "TypedArray", ";", "switch", "(", "reduceType", ")", "{", "case", "'max'", ":", "const", "outValues", "=", "maxImplCPU", "(", "xVals", ",", "util", ".", "sizeFromShape", "(", "reduceShape", ")", ",", "resOutShape", ",", "x", ".", "dtype", ")", ";", "res", "=", "backend", ".", "makeTensorInfo", "(", "resOutShape", ",", "x", ".", "dtype", ",", "outValues", ")", ";", "break", ";", "case", "'prod'", ":", "const", "{", "outVals", ",", "outShape", ",", "outDtype", "}", "=", "prodImplCPU", "(", "input", ".", "shape", ",", "input", ".", "dtype", ",", "xVals", ",", "axes", ")", ";", "res", "=", "backend", ".", "makeTensorInfo", "(", "outShape", ",", "outDtype", ",", "outVals", ")", ";", "break", ";", "default", ":", "throw", "new", "Error", "(", "`${", "reduceType", "} CPU implementation is not yet supported.`", ")", ";", "}", "}", "else", "{", "const", "inSize", "=", "util", ".", "sizeFromShape", "(", "reduceShape", ")", ";", "const", "xSize", "=", "util", ".", "sizeFromShape", "(", "input", ".", "shape", ")", ";", "const", "batchSize", "=", "xSize", "/", "inSize", ";", "const", "reduceInfo", "=", "{", "windowSize", ":", "inSize", ",", "inSize", ",", "batchSize", ",", "outSize", ":", "1", "}", ";", "const", "dtype", "=", "reduceType", "===", "'mean'", "?", "'float32'", ":", "sumOutType", "(", "x", ".", "dtype", ")", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "inSize", "]", "}", ",", "]", ";", "const", "program", "=", "new", "ReduceProgram", "(", "reduceInfo", ",", "reduceType", ")", ";", "const", "reduced", "=", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "input", "]", ",", "dtype", ",", "uniformData", ")", ";", "toDispose", ".", "push", "(", "reduced", ")", ";", "res", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "reduced", "}", ",", "attrs", ":", "{", "shape", ":", "resOutShape", "}", ",", "backend", "}", ")", ";", "}", "toDispose", ".", "forEach", "(", "t", "=>", "backend", ".", "disposeData", "(", "t", ".", "dataId", ")", ")", ";", "return", "res", ";", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 394, null, null, null, 8, null, 0, null, 25938, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658119
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "Sum", ",", "SumAttrs", ",", "SumInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "reduce", "}", "from", "'../kernel_utils/reduce'", ";", "export", "function", "sum", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "axis", ",", "keepDims", "}", "=", "attrs", ";", "return", "reduce", "(", "x", ",", "axis", ",", "keepDims", ",", "'sum'", ",", "backend", ")", ";", "}", "export", "const", "sumConfig", "=", "{", "kernelName", ":", "Sum", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "sum", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658120
[ "license", "import", "{", "Elu", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "elu", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "ELU", "}", ")", ";", "export", "const", "eluConfig", "=", "{", "kernelName", ":", "Elu", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "elu", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658121
[ "license", "import", "{", "Equal", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "equalImplCPU", "as", "cpuEqual", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "equal", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "EQUAL", ",", "dtype", ":", "'bool'", ",", "cpuKernelImpl", ":", "cpuEqual", "}", ")", ";", "export", "const", "equalConfig", "=", "{", "kernelName", ":", "Equal", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "equal", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658122
[ "license", "import", "{", "Exp", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "expImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "exp", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "EXP", ",", "cpuKernelImpl", ":", "expImplCPU", ",", "dtype", ":", "'float32'", ",", "}", ")", ";", "export", "const", "expConfig", "=", "{", "kernelName", ":", "Exp", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "exp", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658123
[ "license", "import", "{", "Expm1", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "expm1ImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "expm1", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "EXPM1", ",", "cpuKernelImpl", ":", "expm1ImplCPU", "}", ")", ";", "export", "const", "expm1Config", "=", "{", "kernelName", ":", "Expm1", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "expm1", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658124
[ "license", "import", "{", "Fill", ",", "FillAttrs", ",", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "FillProgram", "}", "from", "'../fill_webgpu'", ";", "export", "function", "fill", "(", "args", ")", "{", "const", "{", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "shape", ",", "value", "}", "=", "attrs", ";", "let", "{", "dtype", "}", "=", "attrs", ";", "dtype", "=", "dtype", "||", "util", ".", "inferDtype", "(", "value", ")", ";", "if", "(", "dtype", "===", "'string'", ")", "{", "const", "values", "=", "util", ".", "getArrayFromDType", "(", "dtype", ",", "util", ".", "sizeFromShape", "(", "shape", ")", ")", ";", "values", ".", "fill", "(", "value", "as", "string", ")", ";", "return", "backend", ".", "makeTensorInfo", "(", "shape", ",", "dtype", ",", "values", ")", ";", "}", "else", "{", "const", "program", "=", "new", "FillProgram", "(", "shape", ")", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'float32'", ",", "data", ":", "[", "value", "as", "number", "]", "}", "]", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "]", ",", "dtype", ",", "uniformData", ")", ";", "}", "}", "export", "const", "fillConfig", "=", "{", "kernelName", ":", "Fill", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "fill", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658125
[ "license", "import", "{", "KernelConfig", ",", "Tensor4D", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "FlipLeftRight", ",", "FlipLeftRightInputs", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "FlipLeftRightProgram", "}", "from", "'../flip_left_right_webgpu'", ";", "export", "const", "flipLeftRightConfig", "=", "{", "kernelName", ":", "FlipLeftRight", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "(", "{", "inputs", ",", "backend", "}", ")", "=>", "{", "const", "{", "image", "}", "=", "inputs", "as", "FlipLeftRightInputs", ";", "const", "webgpuBackend", "=", "backend", "as", "WebGPUBackend", ";", "const", "program", "=", "new", "FlipLeftRightProgram", "(", "(", "image", "as", "Tensor4D", ")", ".", "shape", ")", ";", "const", "output", "=", "webgpuBackend", ".", "runWebGPUProgram", "(", "program", ",", "[", "image", "]", ",", "image", ".", "dtype", ")", ";", "return", "output", ";", "}", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 25938, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658126
[ "license", "import", "{", "Floor", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "floorImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "floor", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "FLOOR", ",", "cpuKernelImpl", ":", "floorImplCPU", "}", ")", ";", "export", "const", "floorConfig", "=", "{", "kernelName", ":", "Floor", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "floor", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658127
[ "license", "import", "{", "FloorDiv", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "floorDiv", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "INT_DIV", ",", "dtype", ":", "'int32'", "}", ")", ";", "export", "const", "floorDivConfig", "=", "{", "kernelName", ":", "FloorDiv", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "floorDiv", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658128
[ "license", "import", "{", "env", ",", "KernelConfig", ",", "KernelFunc", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "FromPixels", ",", "FromPixelsAttrs", ",", "FromPixelsInputs", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "backend_util", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "fromPixelsExternalImage", "}", "from", "'../FromPixelsExternalImage'", ";", "export", "const", "fromPixelsConfig", "=", "{", "kernelName", ":", "FromPixels", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "fromPixels", "as", "{", "}", "as", "KernelFunc", ",", "}", ";", "let", "fromPixels2DContext", ";", "export", "function", "fromPixels", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "let", "{", "pixels", "}", "=", "inputs", ";", "const", "{", "numChannels", "}", "=", "attrs", ";", "if", "(", "pixels", "==", "null", ")", "{", "throw", "new", "Error", "(", "'pixels passed to tf.browser.fromPixels() can not be null'", ")", ";", "}", "const", "isVideo", "=", "typeof", "(", "HTMLVideoElement", ")", "!==", "'undefined'", "&&", "pixels", "instanceof", "HTMLVideoElement", ";", "const", "isImage", "=", "typeof", "(", "HTMLImageElement", ")", "!==", "'undefined'", "&&", "pixels", "instanceof", "HTMLImageElement", ";", "const", "isCanvas", "=", "(", "typeof", "(", "HTMLCanvasElement", ")", "!==", "'undefined'", "&&", "pixels", "instanceof", "HTMLCanvasElement", ")", "||", "(", "typeof", "(", "OffscreenCanvas", ")", "!==", "'undefined'", "&&", "pixels", "instanceof", "OffscreenCanvas", ")", ";", "const", "isImageBitmap", "=", "typeof", "(", "ImageBitmap", ")", "!==", "'undefined'", "&&", "pixels", "instanceof", "ImageBitmap", ";", "const", "[", "width", ",", "height", "]", "=", "isVideo", "?", "[", "(", "pixels", "as", "HTMLVideoElement", ")", ".", "videoWidth", ",", "(", "pixels", "as", "HTMLVideoElement", ")", ".", "videoHeight", "]", ":", "[", "pixels", ".", "width", ",", "pixels", ".", "height", "]", ";", "const", "outShape", "=", "[", "height", ",", "width", ",", "numChannels", "]", ";", "if", "(", "env", "(", ")", ".", "getBool", "(", "'WEBGPU_USE_IMPORT'", ")", ")", "{", "if", "(", "isVideo", ")", "{", "return", "fromPixelsExternalImage", "(", "{", "externalImage", ":", "pixels", "as", "HTMLVideoElement", ",", "backend", ",", "attrs", ",", "outShape", ",", "useImport", ":", "true", "}", ")", ";", "}", "}", "if", "(", "isVideo", "||", "isImage", ")", "{", "if", "(", "fromPixels2DContext", "==", "null", ")", "{", "fromPixels2DContext", "=", "document", ".", "createElement", "(", "'canvas'", ")", ".", "getContext", "(", "'2d'", ")", ";", "}", "fromPixels2DContext", ".", "canvas", ".", "width", "=", "width", ";", "fromPixels2DContext", ".", "canvas", ".", "height", "=", "height", ";", "fromPixels2DContext", ".", "drawImage", "(", "pixels", "as", "HTMLVideoElement", "|", "HTMLImageElement", ",", "0", ",", "0", ",", "width", ",", "height", ")", ";", "pixels", "=", "fromPixels2DContext", ".", "canvas", ";", "}", "if", "(", "isImageBitmap", "||", "isCanvas", "||", "isVideo", "||", "isImage", ")", "{", "return", "fromPixelsExternalImage", "(", "{", "externalImage", ":", "pixels", "as", "HTMLCanvasElement", "|", "ImageBitmap", ",", "backend", ",", "attrs", ",", "outShape", ",", "useImport", ":", "false", "}", ")", ";", "}", "const", "imageData", "=", "(", "pixels", "as", "ImageData", "|", "backend_util", ".", "PixelData", ")", ".", "data", ";", "let", "pixelArray", "=", "imageData", ";", "if", "(", "numChannels", "!=", "null", "&&", "numChannels", "!==", "4", ")", "{", "pixelArray", "=", "new", "Uint8Array", "(", "pixels", ".", "width", "*", "pixels", ".", "height", "*", "numChannels", ")", ";", "const", "dataLength", "=", "imageData", ".", "length", ";", "let", "j", "=", "0", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "dataLength", ";", "i", "++", ")", "{", "if", "(", "i", "%", "4", "<", "numChannels", ")", "{", "pixelArray", "[", "j", "++", "]", "=", "imageData", "[", "i", "]", ";", "}", "}", "}", "const", "output", "=", "backend", ".", "makeTensorInfo", "(", "outShape", ",", "'int32'", ")", ";", "const", "info", "=", "backend", ".", "tensorMap", ".", "get", "(", "output", ".", "dataId", ")", ";", "info", ".", "values", "=", "new", "Int32Array", "(", "pixelArray", ")", ";", "backend", ".", "maybeReleaseBuffer", "(", "output", ".", "dataId", ")", ";", "backend", ".", "uploadToGPU", "(", "output", ".", "dataId", ")", ";", "return", "output", ";", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 115, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658129
[ "license", "import", "{", "FusedBatchNorm", ",", "FusedBatchNormAttrs", ",", "FusedBatchNormInputs", ",", "KernelConfig", ",", "Tensor", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "BatchNormProgram", "}", "from", "'../batchnorm_webgpu'", ";", "export", "const", "fusedBatchNormConfig", "=", "{", "kernelName", ":", "FusedBatchNorm", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "(", "{", "inputs", ",", "attrs", ",", "backend", "}", ")", "=>", "{", "const", "{", "x", ",", "scale", ",", "offset", ",", "mean", ",", "variance", "}", "=", "inputs", "as", "FusedBatchNormInputs", ";", "const", "{", "varianceEpsilon", "}", "=", "attrs", "as", "unknown", "as", "FusedBatchNormAttrs", ";", "const", "webGPUBackend", "=", "backend", "as", "WebGPUBackend", ";", "const", "batchNormInputs", "=", "[", "x", "as", "Tensor", ",", "mean", "as", "Tensor", ",", "variance", "as", "Tensor", "]", ";", "let", "offsetShape", "=", "null", ";", "if", "(", "offset", "!=", "null", ")", "{", "offsetShape", "=", "offset", ".", "shape", ";", "batchNormInputs", ".", "push", "(", "offset", "as", "Tensor", ")", ";", "}", "let", "scaleShape", "=", "null", ";", "if", "(", "scale", "!=", "null", ")", "{", "scaleShape", "=", "scale", ".", "shape", ";", "batchNormInputs", ".", "push", "(", "scale", "as", "Tensor", ")", ";", "}", "const", "program", "=", "new", "BatchNormProgram", "(", "x", ".", "shape", ",", "mean", ".", "shape", ",", "variance", ".", "shape", ",", "offsetShape", ",", "scaleShape", ")", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'float32'", ",", "data", ":", "[", "varianceEpsilon", "]", "}", "]", ";", "return", "webGPUBackend", ".", "runWebGPUProgram", "(", "program", ",", "batchNormInputs", ",", "x", ".", "dtype", ",", "uniformData", ")", ";", "}", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 25938, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658130
[ "license", "import", "{", "backend_util", ",", "env", ",", "FusedConv2D", ",", "FusedConv2DAttrs", ",", "FusedConv2DInputs", ",", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "conv2dByMatMul", "}", "from", "'./Conv2D_impl'", ";", "import", "{", "Conv2DMMVec4Program", "}", "from", "'../conv2d_mm_vec4_webgpu'", ";", "import", "{", "Conv2DMMProgram", "}", "from", "'../conv2d_mm_webgpu'", ";", "import", "{", "Conv2DNaiveProgram", "}", "from", "'../conv2d_naive_webgpu'", ";", "export", "function", "fusedConv2d", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", ",", "filter", ",", "bias", ",", "preluActivationWeights", "}", "=", "inputs", ";", "const", "{", "strides", ",", "pad", ",", "dataFormat", ",", "dilations", ",", "dimRoundingMode", ",", "activation", ",", "leakyreluAlpha", "}", "=", "attrs", ";", "const", "$dataFormat", "=", "backend_util", ".", "convertConv2DDataFormat", "(", "dataFormat", ")", ";", "const", "convInfo", "=", "backend_util", ".", "computeConv2DInfo", "(", "x", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "filter", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "strides", ",", "dilations", ",", "pad", ",", "dimRoundingMode", ",", "false", ",", "$dataFormat", ")", ";", "const", "hasBias", "=", "bias", "!=", "null", ";", "const", "hasPreluActivationWeights", "=", "preluActivationWeights", "!=", "null", ";", "let", "program", ";", "if", "(", "convInfo", ".", "filterHeight", "===", "1", "&&", "convInfo", ".", "filterWidth", "===", "1", "&&", "convInfo", ".", "dilationHeight", "===", "1", "&&", "convInfo", ".", "dilationWidth", "===", "1", "&&", "convInfo", ".", "strideHeight", "===", "1", "&&", "convInfo", ".", "strideWidth", "===", "1", "&&", "(", "convInfo", ".", "padInfo", ".", "type", "===", "'SAME'", "||", "convInfo", ".", "padInfo", ".", "type", "===", "'VALID'", ")", ")", "{", "return", "conv2dByMatMul", "(", "{", "x", ",", "filter", ",", "convInfo", ",", "backend", ",", "bias", ",", "activation", ",", "preluActivationWeights", ",", "leakyreluAlpha", "}", ")", ";", "}", "const", "useNaive", "=", "env", "(", ")", ".", "getBool", "(", "'WEBGPU_USE_NAIVE_CONV2D'", ")", ";", "const", "useVec4", "=", "convInfo", ".", "inChannels", "%", "4", "===", "0", "&&", "convInfo", ".", "outChannels", "%", "4", "===", "0", ";", "const", "padInfo", "=", "[", "convInfo", ".", "padInfo", ".", "top", ",", "convInfo", ".", "padInfo", ".", "left", "]", ";", "const", "dimensions", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "filterHeight", ",", "convInfo", ".", "filterWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "...", "padInfo", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "strideHeight", ",", "convInfo", ".", "strideWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "dilationHeight", ",", "convInfo", ".", "dilationWidth", "]", "}", "]", ";", "if", "(", "useNaive", ")", "{", "program", "=", "new", "Conv2DNaiveProgram", "(", "convInfo", ",", "hasBias", ",", "activation", ",", "hasPreluActivationWeights", ")", ";", "}", "else", "{", "if", "(", "useVec4", ")", "{", "program", "=", "new", "Conv2DMMVec4Program", "(", "convInfo", ",", "hasBias", ",", "activation", ",", "hasPreluActivationWeights", ")", ";", "}", "else", "{", "program", "=", "new", "Conv2DMMProgram", "(", "convInfo", ",", "hasBias", ",", "activation", ",", "hasPreluActivationWeights", ")", ";", "}", "const", "dimAOuter", "=", "convInfo", ".", "outShape", "[", "1", "]", "*", "convInfo", ".", "outShape", "[", "2", "]", ";", "const", "dimBOuter", "=", "convInfo", ".", "outShape", "[", "3", "]", ";", "const", "dimInner", "=", "convInfo", ".", "filterHeight", "*", "convInfo", ".", "filterWidth", "*", "convInfo", ".", "inShape", "[", "3", "]", ";", "dimensions", ".", "push", "(", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dimAOuter", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dimBOuter", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dimInner", "]", "}", ")", ";", "}", "const", "inputVar", "=", "[", "x", ",", "filter", "]", ";", "if", "(", "hasBias", ")", "{", "inputVar", ".", "push", "(", "bias", ")", ";", "}", "if", "(", "hasPreluActivationWeights", ")", "{", "inputVar", ".", "push", "(", "preluActivationWeights", ")", ";", "}", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "inputVar", ",", "x", ".", "dtype", ",", "dimensions", ")", ";", "}", "export", "const", "fusedConv2DConfig", "=", "{", "kernelName", ":", "FusedConv2D", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "fusedConv2d", "as", "{", "}", "as", "KernelFunc", ",", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658131
[ "license", "import", "{", "backend_util", ",", "FusedDepthwiseConv2D", ",", "FusedDepthwiseConv2DAttrs", ",", "FusedDepthwiseConv2DInputs", ",", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "DepthwiseConv2D3x3Program", "}", "from", "'../depthwise_conv2d_3x3_webgpu'", ";", "import", "{", "DepthwiseConv2DProgram", "}", "from", "'../depthwise_conv2d_webgpu'", ";", "export", "function", "fusedDepthwiseConv2D", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", ",", "filter", ",", "bias", ",", "preluActivationWeights", "}", "=", "inputs", ";", "const", "{", "strides", ",", "pad", ",", "dilations", ",", "dimRoundingMode", ",", "activation", "}", "=", "attrs", ";", "let", "$dilations", "=", "dilations", ";", "if", "(", "$dilations", "==", "null", ")", "{", "$dilations", "=", "[", "1", ",", "1", "]", ";", "}", "util", ".", "assert", "(", "backend_util", ".", "eitherStridesOrDilationsAreOne", "(", "strides", ",", "$dilations", ")", ",", "(", ")", "=>", "'Error in depthwiseConv2d: Either strides or dilations must be '", "+", "`1. Got strides ${", "strides", "} and dilations '${", "$dilations", "}'`", ")", ";", "const", "convInfo", "=", "backend_util", ".", "computeConv2DInfo", "(", "x", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "filter", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "strides", ",", "$dilations", ",", "pad", ",", "dimRoundingMode", ",", "true", ")", ";", "const", "programInputs", "=", "[", "x", ",", "filter", "]", ";", "const", "hasBias", "=", "bias", "!=", "null", ";", "const", "hasPreluActivationWeights", "=", "preluActivationWeights", "!=", "null", ";", "if", "(", "hasBias", ")", "{", "programInputs", ".", "push", "(", "bias", ")", ";", "}", "if", "(", "hasPreluActivationWeights", ")", "{", "programInputs", ".", "push", "(", "preluActivationWeights", ")", ";", "}", "const", "dimensions", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "padInfo", ".", "top", ",", "convInfo", ".", "padInfo", ".", "left", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "strideHeight", ",", "convInfo", ".", "strideWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "dilationHeight", ",", "convInfo", ".", "dilationWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "inHeight", ",", "convInfo", ".", "inWidth", "]", "}", "]", ";", "let", "program", ";", "if", "(", "convInfo", ".", "batchSize", "===", "1", "&&", "convInfo", ".", "inHeight", "===", "convInfo", ".", "outHeight", "&&", "convInfo", ".", "inWidth", "===", "convInfo", ".", "outWidth", "&&", "convInfo", ".", "strideHeight", "===", "1", "&&", "convInfo", ".", "strideWidth", "===", "1", "&&", "convInfo", ".", "filterHeight", "===", "convInfo", ".", "filterWidth", "&&", "convInfo", ".", "inChannels", "===", "convInfo", ".", "outChannels", "&&", "convInfo", ".", "filterHeight", "===", "3", "&&", "convInfo", ".", "inChannels", "%", "4", "===", "0", ")", "{", "program", "=", "new", "DepthwiseConv2D3x3Program", "(", "convInfo", ",", "hasBias", ",", "activation", ",", "hasPreluActivationWeights", ")", ";", "}", "else", "{", "program", "=", "new", "DepthwiseConv2DProgram", "(", "convInfo", ",", "hasBias", ",", "activation", ",", "hasPreluActivationWeights", ")", ";", "dimensions", ".", "push", "(", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "filterHeight", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "filterWidth", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "convInfo", ".", "outChannels", "/", "convInfo", ".", "inChannels", "]", "}", ")", ";", "}", "const", "result", "=", "backend", ".", "runWebGPUProgram", "(", "program", ",", "programInputs", ",", "'float32'", ",", "dimensions", ")", ";", "return", "result", ";", "}", "export", "const", "fusedDepthwiseConv2DConfig", "=", "{", "kernelName", ":", "FusedDepthwiseConv2D", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "fusedDepthwiseConv2D", "as", "{", "}", "as", "KernelFunc", ",", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658132
[ "license", "import", "{", "backend_util", ",", "GatherNd", ",", "GatherNdInputs", ",", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", ",", "TypedArray", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "gatherNdImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "GatherNDProgram", "}", "from", "'../gather_nd_webgpu'", ";", "import", "{", "reshape", "}", "from", "'./Reshape'", ";", "export", "function", "gatherNd", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", "}", "=", "args", ";", "const", "{", "params", ",", "indices", "}", "=", "inputs", ";", "const", "indicesShape", "=", "indices", ".", "shape", ";", "const", "sliceRank", "=", "indicesShape", "[", "indicesShape", ".", "length", "-", "1", "]", ";", "const", "paramsSize", "=", "util", ".", "sizeFromShape", "(", "params", ".", "shape", ")", ";", "const", "[", "resultShape", ",", "numSlices", ",", "sliceSize", ",", "strides", "]", "=", "backend_util", ".", "prepareAndValidate", "(", "params", ",", "indices", ")", ";", "const", "flattenIndices", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "indices", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "numSlices", ",", "sliceRank", "]", "}", "}", ")", ";", "const", "flattenX", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "params", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "(", "util", ".", "sizeFromShape", "(", "params", ".", "shape", ")", "/", "sliceSize", ")", ",", "sliceSize", "]", "}", "}", ")", ";", "if", "(", "backend", ".", "shouldExecuteOnCPU", "(", "[", "params", ",", "indices", "]", ")", "||", "params", ".", "dtype", "===", "'string'", ")", "{", "const", "indicesData", "=", "backend", ".", "readSync", "(", "indices", ".", "dataId", ")", "as", "TypedArray", ";", "const", "paramsBuf", "=", "backend", ".", "bufferSync", "(", "params", ")", ";", "const", "outValue", "=", "gatherNdImplCPU", "(", "indicesData", ",", "paramsBuf", ",", "params", ".", "dtype", ",", "numSlices", ",", "sliceRank", ",", "sliceSize", ",", "strides", ",", "params", ".", "shape", ",", "paramsSize", ")", ";", "return", "backend", ".", "makeTensorInfo", "(", "resultShape", ",", "params", ".", "dtype", ",", "outValue", ".", "values", ")", ";", "}", "const", "program", "=", "new", "GatherNDProgram", "(", "sliceRank", ",", "[", "numSlices", ",", "sliceSize", "]", ")", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "sliceRank", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "strides", "}", "]", ";", "const", "res", "=", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "flattenX", ",", "flattenIndices", "]", ",", "flattenX", ".", "dtype", ",", "uniformData", ")", ";", "const", "reshaped", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "res", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "resultShape", "}", "}", ")", ";", "backend", ".", "disposeData", "(", "flattenIndices", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "flattenX", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "res", ".", "dataId", ")", ";", "return", "reshaped", ";", "}", "export", "const", "gatherNdConfig", "=", "{", "kernelName", ":", "GatherNd", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "gatherNd", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658133
[ "license", "import", "{", "backend_util", ",", "buffer", ",", "GatherV2", ",", "GatherV2Attrs", ",", "GatherV2Inputs", ",", "KernelConfig", ",", "KernelFunc", ",", "Rank", ",", "TensorBuffer", ",", "TensorInfo", ",", "TypedArray", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "gatherV2ImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "GatherProgram", "}", "from", "'../gather_webgpu'", ";", "import", "{", "reshape", "}", "from", "'./Reshape'", ";", "export", "function", "gatherV2", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", ",", "indices", "}", "=", "inputs", ";", "const", "{", "axis", ",", "batchDims", "}", "=", "attrs", ";", "const", "parsedAxis", "=", "util", ".", "parseAxisParam", "(", "axis", ",", "x", ".", "shape", ")", "[", "0", "]", ";", "const", "shapeInfo", "=", "backend_util", ".", "segment_util", ".", "collectGatherOpShapeInfo", "(", "x", ",", "indices", ",", "parsedAxis", ",", "batchDims", ")", ";", "const", "indicesSize", "=", "util", ".", "sizeFromShape", "(", "indices", ".", "shape", ")", ";", "const", "toDispose", "=", "[", "]", ";", "const", "flattenX", "=", "reshape", "(", "{", "inputs", ":", "{", "x", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "shapeInfo", ".", "batchSize", ",", "shapeInfo", ".", "outerSize", ",", "shapeInfo", ".", "dimSize", ",", "shapeInfo", ".", "sliceSize", "]", "}", "}", ")", ";", "const", "flattenIndex", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "indices", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "shapeInfo", ".", "batchSize", ",", "indicesSize", "/", "shapeInfo", ".", "batchSize", "]", "}", "}", ")", ";", "toDispose", ".", "push", "(", "flattenX", ")", ";", "toDispose", ".", "push", "(", "flattenIndex", ")", ";", "const", "flattenOutputShape", "=", "[", "shapeInfo", ".", "batchSize", ",", "shapeInfo", ".", "outerSize", ",", "indicesSize", "/", "shapeInfo", ".", "batchSize", ",", "shapeInfo", ".", "sliceSize", "]", ";", "if", "(", "backend", ".", "shouldExecuteOnCPU", "(", "[", "x", ",", "indices", "]", ")", ")", "{", "const", "indicesBufferInfo", "=", "backend", ".", "tensorMap", ".", "get", "(", "flattenIndex", ".", "dataId", ")", ";", "const", "indicesValues", "=", "indicesBufferInfo", ".", "values", "as", "TypedArray", ";", "const", "indicesBuf", "=", "buffer", "(", "flattenIndex", ".", "shape", ",", "flattenIndex", ".", "dtype", ",", "indicesValues", ")", "as", "TensorBuffer", "<", "Rank", ">", ";", "const", "xBufferInfo", "=", "backend", ".", "tensorMap", ".", "get", "(", "flattenX", ".", "dataId", ")", ";", "const", "xValues", "=", "xBufferInfo", ".", "values", "as", "TypedArray", ";", "const", "xBuf", "=", "buffer", "(", "flattenX", ".", "shape", ",", "flattenX", ".", "dtype", ",", "xValues", ")", "as", "TensorBuffer", "<", "Rank", ">", ";", "const", "outBuf", "=", "gatherV2ImplCPU", "(", "xBuf", ",", "indicesBuf", ",", "flattenOutputShape", ")", ";", "toDispose", ".", "forEach", "(", "t", "=>", "backend", ".", "disposeData", "(", "t", ".", "dataId", ")", ")", ";", "return", "backend", ".", "makeTensorInfo", "(", "shapeInfo", ".", "outputShape", ",", "outBuf", ".", "dtype", ",", "outBuf", ".", "values", "as", "TypedArray", ")", ";", "}", "const", "program", "=", "new", "GatherProgram", "(", "flattenX", ".", "shape", ",", "flattenOutputShape", ")", ";", "const", "res", "=", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "flattenX", ",", "flattenIndex", "]", ",", "flattenX", ".", "dtype", ")", ";", "toDispose", ".", "push", "(", "res", ")", ";", "const", "reshaped", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "res", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "shapeInfo", ".", "outputShape", "}", "}", ")", ";", "toDispose", ".", "forEach", "(", "t", "=>", "backend", ".", "disposeData", "(", "t", ".", "dataId", ")", ")", ";", "return", "reshaped", ";", "}", "export", "const", "gatherV2Config", "=", "{", "kernelName", ":", "GatherV2", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "gatherV2", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658134
[ "license", "import", "{", "Greater", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "greaterImplCPU", "as", "cpuGreater", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "greater", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "GREATER", ",", "cpuKernelImpl", ":", "cpuGreater", ",", "dtype", ":", "'bool'", ",", "}", ")", ";", "export", "const", "greaterConfig", "=", "{", "kernelName", ":", "Greater", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "greater", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658135
[ "license", "import", "{", "GreaterEqual", ",", "KernelConfig", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "greaterEqualImplCPU", "as", "cpuGreaterEqual", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "greaterEqual", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "GREATER_EQUAL", ",", "dtype", ":", "'bool'", ",", "cpuKernelImpl", ":", "cpuGreaterEqual", "}", ")", ";", "export", "const", "greaterEqualConfig", "=", "{", "kernelName", ":", "GreaterEqual", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "greaterEqual", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658136
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "LeakyRelu", ",", "LeakyReluInputs", ",", "LeakyReluAttrs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "import", "{", "UnaryOpProgram", "}", "from", "'../unary_op_webgpu'", ";", "export", "function", "leakyRelu", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "alpha", "}", "=", "attrs", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'float32'", ",", "data", ":", "[", "alpha", "]", "}", "]", ";", "const", "program", "=", "new", "UnaryOpProgram", "(", "x", ".", "shape", ",", "UnaryOpType", ".", "LEAKYRELU", ")", ";", "program", ".", "uniforms", "=", "'alpha : f32;'", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", "]", ",", "'float32'", ",", "uniformData", ")", ";", "}", "export", "const", "leakyReluConfig", "=", "{", "kernelName", ":", "LeakyRelu", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "leakyRelu", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 19981, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658137
[ "license", "import", "{", "KernelConfig", ",", "Less", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "lessImplCPU", "as", "cpuLess", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "less", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "LESS", ",", "dtype", ":", "'bool'", ",", "cpuKernelImpl", ":", "cpuLess", "}", ")", ";", "export", "const", "lessConfig", "=", "{", "kernelName", ":", "Less", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "less", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658138
[ "license", "import", "{", "KernelConfig", ",", "LessEqual", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "lessEqualImplCPU", "as", "cpuLessEqual", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "lessEqual", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "LESS_EQUAL", ",", "dtype", ":", "'bool'", ",", "cpuKernelImpl", ":", "cpuLessEqual", "}", ")", ";", "export", "const", "lessEqualConfig", "=", "{", "kernelName", ":", "LessEqual", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "lessEqual", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658139
[ "license", "import", "{", "KernelConfig", ",", "Log", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "logImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "log", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "LOG", ",", "cpuKernelImpl", ":", "logImplCPU", "}", ")", ";", "export", "const", "logConfig", "=", "{", "kernelName", ":", "Log", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "log", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658140
[ "license", "import", "{", "KernelConfig", ",", "LogicalAnd", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "logicalAnd", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "LOGICAL_AND", ",", "dtype", ":", "'bool'", "}", ")", ";", "export", "const", "logicalAndConfig", "=", "{", "kernelName", ":", "LogicalAnd", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "logicalAnd", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658141
[ "license", "import", "{", "KernelConfig", ",", "LogicalNot", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "logicalNot", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "LOGICAL_NOT", "}", ")", ";", "export", "const", "logicalNotConfig", "=", "{", "kernelName", ":", "LogicalNot", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "logicalNot", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658142
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "Max", ",", "MaxAttrs", ",", "MaxInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "reduce", "}", "from", "'../kernel_utils/reduce'", ";", "export", "function", "max", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "reductionIndices", ",", "keepDims", "}", "=", "attrs", ";", "return", "reduce", "(", "x", ",", "reductionIndices", ",", "keepDims", ",", "'max'", ",", "backend", ")", ";", "}", "export", "const", "maxConfig", "=", "{", "kernelName", ":", "Max", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "max", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658143
[ "license", "import", "{", "KernelConfig", ",", "Maximum", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "maximumImplCPU", "as", "cpuMaximum", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "maximum", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "MAX", ",", "cpuKernelImpl", ":", "cpuMaximum", ",", "}", ")", ";", "export", "const", "maximumConfig", "=", "{", "kernelName", ":", "Maximum", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "maximum", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658144
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "Mean", ",", "MeanAttrs", ",", "MeanInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "reduce", "}", "from", "'../kernel_utils/reduce'", ";", "export", "function", "mean", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "keepDims", ",", "axis", "}", "=", "attrs", ";", "return", "reduce", "(", "x", ",", "axis", ",", "keepDims", ",", "'mean'", ",", "backend", ")", ";", "}", "export", "const", "meanConfig", "=", "{", "kernelName", ":", "Mean", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "mean", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658145
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "Min", ",", "MinAttrs", ",", "MinInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "reduce", "}", "from", "'../kernel_utils/reduce'", ";", "export", "function", "min", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "axis", ",", "keepDims", "}", "=", "attrs", ";", "return", "reduce", "(", "x", ",", "axis", ",", "keepDims", ",", "'min'", ",", "backend", ")", ";", "}", "export", "const", "minConfig", "=", "{", "kernelName", ":", "Min", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "min", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658146
[ "license", "import", "{", "KernelConfig", ",", "Minimum", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "minimumImplCPU", "as", "cpuMinimum", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "minimum", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "MIN", ",", "cpuKernelImpl", ":", "cpuMinimum", ",", "}", ")", ";", "export", "const", "minimumConfig", "=", "{", "kernelName", ":", "Minimum", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "minimum", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658147
[ "license", "import", "{", "getCoordsDataType", ",", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "export", "class", "MirrorPadProgram", "implements", "WebGPUProgram", "{", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "uniforms", "=", "''", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "variableNames", "=", "[", "'x'", "]", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "xShape", ":", "number", "[", "]", ";", "offset", ":", "number", ";", "size", "=", "true", ";", "constructor", "(", "xShape", ",", "paddings", ",", "mode", ")", "{", "this", ".", "outputShape", "=", "paddings", ".", "map", "(", "(", "p", ",", "i", ")", "=>", "p", "[", "0", "]", "+", "xShape", "[", "i", "]", "+", "p", "[", "1", "]", ")", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "xShape", "=", "xShape", ";", "paddings", ".", "map", "(", "(", "_", ",", "i", ")", "=>", "{", "this", ".", "uniforms", "+=", "` pad${", "i", "} : vec2<i32>;`", ";", "}", ")", ";", "this", ".", "offset", "=", "mode", "===", "'reflect'", "?", "0", ":", "1", ";", "this", ".", "shaderKey", "=", "`mirrorPad_${", "mode", "}`", ";", "}", "getUserCode", "(", ")", "{", "const", "rank", "=", "this", ".", "xShape", ".", "length", ";", "const", "start", "=", "this", ".", "xShape", ".", "map", "(", "(", "_", ",", "i", ")", "=>", "`uniforms.pad${", "i", "}[0]`", ")", ".", "join", "(", "','", ")", ";", "const", "end", "=", "this", ".", "xShape", ".", "map", "(", "(", "_", ",", "i", ")", "=>", "`uniforms.pad${", "i", "}[0] + uniforms.xShape${", "rank", ">", "1", "?", "`[${", "i", "}]`", ":", "''", "}`", ")", ".", "join", "(", "','", ")", ";", "const", "shaderStart", "=", "rank", "===", "1", "?", "'start'", ":", "'start[i]'", ";", "const", "shaderEnd", "=", "rank", "===", "1", "?", "'end'", ":", "'end[i]'", ";", "const", "shaderOutC", "=", "rank", "===", "1", "?", "'outC'", ":", "'outC[i]'", ";", "const", "dtype", "=", "getCoordsDataType", "(", "rank", ")", ";", "const", "unpackedCoords", "=", "rank", ">", "1", "?", "[", "'coords[0]'", ",", "'coords[1]'", ",", "'coords[2]'", ",", "'coords[3]'", "]", ".", "slice", "(", "0", ",", "rank", ")", ":", "'coords'", ";", "return", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let start = ${", "dtype", "}(${", "start", "});\n let end = ${", "dtype", "}(${", "end", "});\n var outC = getCoordsFromIndex(index);\n for (var i = 0; i < ${", "rank", "}; i = i + 1) {\n if (${", "shaderOutC", "} < ${", "shaderStart", "}) {\n ${", "shaderOutC", "} = ${", "shaderStart", "} * 2 - ${", "shaderOutC", "} - ${", "this", ".", "offset", "};\n } else if(${", "shaderOutC", "} >= ${", "shaderEnd", "}) {\n ${", "shaderOutC", "} = (${", "shaderEnd", "} - 1) * 2 - ${", "shaderOutC", "} + ${", "this", ".", "offset", "};\n }\n }\n let coords = outC - start;\n setOutputAtIndex(index, getX(${", "unpackedCoords", "}));\n }\n }\n `", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 13, null, 2, null, null, null, null, null, null, null, null, null, null, null, 5, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 3, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, 3, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, 3, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658148
[ "license", "import", "{", "KernelConfig", ",", "MirrorPad", ",", "MirrorPadAttrs", ",", "MirrorPadInputs", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "MirrorPadProgram", "}", "from", "'../mirror_pad_webgpu'", ";", "export", "const", "mirrorPadConfig", "=", "{", "kernelName", ":", "MirrorPad", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "(", "{", "inputs", ",", "attrs", ",", "backend", "}", ")", "=>", "{", "const", "{", "x", "}", "=", "inputs", "as", "MirrorPadInputs", ";", "const", "{", "paddings", ",", "mode", "}", "=", "attrs", "as", "unknown", "as", "MirrorPadAttrs", ";", "const", "webGPUBackend", "=", "backend", "as", "WebGPUBackend", ";", "const", "uniformData", "=", "paddings", ".", "map", "(", "p", "=>", "{", "return", "{", "type", ":", "'int32'", ",", "data", ":", "[", "p", "[", "0", "]", ",", "p", "[", "1", "]", "]", "}", ";", "}", ")", ";", "const", "program", "=", "new", "MirrorPadProgram", "(", "x", ".", "shape", ",", "paddings", ",", "mode", ")", ";", "const", "output", "=", "webGPUBackend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", "]", ",", "x", ".", "dtype", ",", "uniformData", ")", ";", "return", "output", ";", "}", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 25938, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658149
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "Neg", ",", "NegInputs", ",", "TensorInfo", ",", "TypedArray", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "negImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "import", "{", "UnaryOpProgram", "}", "from", "'../unary_op_webgpu'", ";", "export", "function", "neg", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "if", "(", "backend", ".", "shouldExecuteOnCPU", "(", "[", "x", "]", ")", ")", "{", "const", "xData", "=", "backend", ".", "tensorMap", ".", "get", "(", "x", ".", "dataId", ")", ";", "const", "[", "outValues", ",", "newShape", "]", "=", "negImplCPU", "(", "xData", ".", "values", "as", "TypedArray", ",", "x", ".", "shape", ",", "x", ".", "dtype", ")", ";", "return", "backend", ".", "makeTensorInfo", "(", "newShape", ",", "x", ".", "dtype", ",", "outValues", ")", ";", "}", "const", "program", "=", "new", "UnaryOpProgram", "(", "x", ".", "shape", ",", "UnaryOpType", ".", "NEG", ")", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", "]", ",", "x", ".", "dtype", ")", ";", "}", "export", "const", "negConfig", "=", "{", "kernelName", ":", "Neg", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "neg", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 19981, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658150
[ "license", "import", "{", "kernel_impls", ",", "KernelConfig", ",", "KernelFunc", ",", "NonMaxSuppressionV3", ",", "NonMaxSuppressionV3Attrs", ",", "NonMaxSuppressionV3Inputs", ",", "TypedArray", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "export", "function", "nonMaxSuppressionV3", "(", "args", ")", "{", "console", ".", "warn", "(", "'tf.nonMaxSuppression() in webgpu locks the UI thread. '", "+", "'Call tf.nonMaxSuppressionAsync() instead'", ")", ";", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "boxes", ",", "scores", "}", "=", "inputs", ";", "const", "{", "maxOutputSize", ",", "iouThreshold", ",", "scoreThreshold", "}", "=", "attrs", ";", "const", "boxesVals", "=", "backend", ".", "readSync", "(", "boxes", ".", "dataId", ")", "as", "TypedArray", ";", "const", "scoresVals", "=", "backend", ".", "readSync", "(", "scores", ".", "dataId", ")", "as", "TypedArray", ";", "const", "{", "selectedIndices", "}", "=", "kernel_impls", ".", "nonMaxSuppressionV3Impl", "(", "boxesVals", ",", "scoresVals", ",", "maxOutputSize", ",", "iouThreshold", ",", "scoreThreshold", ")", ";", "return", "backend", ".", "makeTensorInfo", "(", "[", "selectedIndices", ".", "length", "]", ",", "'int32'", ",", "new", "Int32Array", "(", "selectedIndices", ")", ")", ";", "}", "export", "const", "nonMaxSuppressionV3Config", "=", "{", "kernelName", ":", "NonMaxSuppressionV3", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "nonMaxSuppressionV3", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658151
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", ",", "ZerosLike", ",", "ZerosLikeInputs", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "complex", "}", "from", "'./Complex'", ";", "import", "{", "fill", "}", "from", "'./Fill'", ";", "import", "{", "imag", "}", "from", "'./Imag'", ";", "import", "{", "real", "}", "from", "'./Real'", ";", "export", "function", "zerosLike", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "if", "(", "x", ".", "dtype", "===", "'complex64'", ")", "{", "const", "realPart", "=", "real", "(", "{", "inputs", ":", "{", "input", ":", "x", "}", ",", "backend", "}", ")", ";", "const", "r", "=", "zerosLike", "(", "{", "inputs", ":", "{", "x", ":", "realPart", "}", ",", "backend", "}", ")", ";", "const", "imagPart", "=", "imag", "(", "{", "inputs", ":", "{", "input", ":", "x", "}", ",", "backend", "}", ")", ";", "const", "i", "=", "zerosLike", "(", "{", "inputs", ":", "{", "x", ":", "imagPart", "}", ",", "backend", "}", ")", ";", "const", "result", "=", "complex", "(", "{", "inputs", ":", "{", "real", ":", "r", ",", "imag", ":", "i", "}", ",", "backend", "}", ")", ";", "backend", ".", "disposeData", "(", "realPart", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "r", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "imagPart", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "i", ".", "dataId", ")", ";", "return", "result", ";", "}", "else", "{", "return", "fill", "(", "{", "attrs", ":", "{", "shape", ":", "x", ".", "shape", ",", "dtype", ":", "x", ".", "dtype", ",", "value", ":", "x", ".", "dtype", "===", "'string'", "?", "''", ":", "0", "}", ",", "backend", "}", ")", ";", "}", "}", "export", "const", "zerosLikeConfig", "=", "{", "kernelName", ":", "ZerosLike", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "zerosLike", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658152
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "OnesLike", ",", "OnesLikeInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "complex", "}", "from", "'./Complex'", ";", "import", "{", "fill", "}", "from", "'./Fill'", ";", "import", "{", "imag", "}", "from", "'./Imag'", ";", "import", "{", "real", "}", "from", "'./Real'", ";", "import", "{", "zerosLike", "}", "from", "'./ZerosLike'", ";", "export", "function", "onesLike", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "if", "(", "x", ".", "dtype", "===", "'string'", ")", "{", "throw", "new", "Error", "(", "'onesLike is not supported under string dtype'", ")", ";", "}", "else", "if", "(", "x", ".", "dtype", "===", "'complex64'", ")", "{", "const", "realPart", "=", "real", "(", "{", "inputs", ":", "{", "input", ":", "x", "}", ",", "backend", "}", ")", ";", "const", "r", "=", "onesLike", "(", "{", "inputs", ":", "{", "x", ":", "realPart", "}", ",", "backend", "}", ")", ";", "const", "imagPart", "=", "imag", "(", "{", "inputs", ":", "{", "input", ":", "x", "}", ",", "backend", "}", ")", ";", "const", "i", "=", "zerosLike", "(", "{", "inputs", ":", "{", "x", ":", "imagPart", "}", ",", "backend", "}", ")", ";", "const", "result", "=", "complex", "(", "{", "inputs", ":", "{", "real", ":", "r", ",", "imag", ":", "i", "}", ",", "backend", "}", ")", ";", "backend", ".", "disposeData", "(", "realPart", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "r", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "imagPart", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "i", ".", "dataId", ")", ";", "return", "result", ";", "}", "else", "{", "return", "fill", "(", "{", "attrs", ":", "{", "shape", ":", "x", ".", "shape", ",", "dtype", ":", "x", ".", "dtype", ",", "value", ":", "1", "}", ",", "backend", "}", ")", ";", "}", "}", "export", "const", "onesLikeConfig", "=", "{", "kernelName", ":", "OnesLike", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "onesLike", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658153
[ "license", "import", "{", "getCoordsDataType", ",", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "PadProgram", "implements", "WebGPUProgram", "{", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "variableNames", "=", "[", "'x'", "]", ";", "uniforms", "=", "'constantValue : f32;'", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "xShape", ":", "number", "[", "]", ";", "size", "=", "true", ";", "constructor", "(", "xShape", ",", "paddings", ")", "{", "this", ".", "outputShape", "=", "paddings", ".", "map", "(", "(", "p", ",", "i", ")", "=>", "p", "[", "0", "]", "+", "xShape", "[", "i", "]", "+", "p", "[", "1", "]", ")", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "paddings", ".", "map", "(", "(", "_", ",", "i", ")", "=>", "{", "this", ".", "uniforms", "+=", "` pad${", "i", "} : vec2<i32>;`", ";", "}", ")", ";", "this", ".", "xShape", "=", "xShape", ";", "this", ".", "shaderKey", "=", "'pad'", ";", "}", "getUserCode", "(", ")", "{", "const", "rank", "=", "this", ".", "xShape", ".", "length", ";", "const", "type", "=", "getCoordsDataType", "(", "rank", ")", ";", "const", "start", "=", "this", ".", "xShape", ".", "map", "(", "(", "_", ",", "i", ")", "=>", "`uniforms.pad${", "i", "}[0]`", ")", ".", "join", "(", "','", ")", ";", "const", "end", "=", "this", ".", "xShape", ".", "map", "(", "(", "_", ",", "i", ")", "=>", "`uniforms.pad${", "i", "}[0] + uniforms.xShape${", "rank", ">", "1", "?", "`[${", "i", "}]`", ":", "''", "}`", ")", ".", "join", "(", "','", ")", ";", "const", "startValue", "=", "rank", ">", "1", "?", "`${", "type", "}(${", "start", "})`", ":", "`${", "start", "}`", ";", "const", "endValue", "=", "rank", ">", "1", "?", "`${", "type", "}(${", "end", "})`", ":", "`${", "end", "}`", ";", "const", "leftPadCondition", "=", "rank", ">", "1", "?", "`any(outC < start)`", ":", "`outC < start`", ";", "const", "rightPadCondition", "=", "rank", ">", "1", "?", "`any(outC >= end)`", ":", "`outC >= end`", ";", "const", "unpackedCoords", "=", "rank", ">", "1", "?", "[", "'coords[0]'", ",", "'coords[1]'", ",", "'coords[2]'", ",", "'coords[3]'", "]", ".", "slice", "(", "0", ",", "rank", ")", ":", "'coords'", ";", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let start = ${", "startValue", "};\n let end = ${", "endValue", "};\n let outC = getCoordsFromIndex(index);\n\n if (${", "leftPadCondition", "} || ${", "rightPadCondition", "}) {\n setOutputAtIndex(index, uniforms.constantValue);\n } else {\n let coords = outC - start;\n setOutputAtIndex(index, getX(${", "unpackedCoords", "}));\n }\n }\n }\n `", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 13, null, null, null, null, null, null, null, null, null, null, null, 5, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 3, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, 3, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, 3, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658154
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "PadV2", ",", "PadV2Attrs", ",", "PadV2Inputs", ",", "TensorInfo", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "identity", "}", "from", "'./Identity'", ";", "import", "{", "PadProgram", "}", "from", "'../pad_webgpu'", ";", "import", "{", "fill", "}", "from", "'./Fill'", ";", "export", "const", "padV2", "=", "(", "args", ")", ":", "TensorInfo", "=>", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "paddings", ",", "constantValue", "}", "=", "attrs", ";", "if", "(", "paddings", ".", "every", "(", "p", "=>", "util", ".", "arraysEqual", "(", "p", ",", "[", "0", ",", "0", "]", ")", ")", ")", "{", "return", "identity", "(", "{", "inputs", ":", "{", "x", "}", ",", "backend", "}", ")", ";", "}", "if", "(", "util", ".", "sizeFromShape", "(", "x", ".", "shape", ")", "===", "0", ")", "{", "const", "outputShape", "=", "paddings", ".", "map", "(", "(", "p", ",", "i", ")", "=>", "p", "[", "0", "]", "+", "x", ".", "shape", "[", "i", "]", "+", "p", "[", "1", "]", ")", ";", "return", "fill", "(", "{", "backend", ",", "attrs", ":", "{", "shape", ":", "outputShape", ",", "value", ":", "constantValue", ",", "dtype", ":", "x", ".", "dtype", "}", "}", ")", ";", "}", "const", "uniformData", "=", "[", "{", "type", ":", "'float32'", ",", "data", ":", "[", "constantValue", "]", "}", "]", ";", "paddings", ".", "map", "(", "p", "=>", "uniformData", ".", "push", "(", "{", "type", ":", "'int32'", ",", "data", ":", "[", "p", "[", "0", "]", ",", "p", "[", "1", "]", "]", "}", ")", ")", ";", "const", "program", "=", "new", "PadProgram", "(", "x", ".", "shape", ",", "paddings", ")", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", "]", ",", "x", ".", "dtype", ",", "uniformData", ")", ";", "}", ";", "export", "const", "padV2Config", "=", "{", "kernelName", ":", "PadV2", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "padV2", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658155
[ "license", "import", "{", "KernelConfig", ",", "Pow", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "pow", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "POW", ",", "}", ")", ";", "export", "const", "powConfig", "=", "{", "kernelName", ":", "Pow", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "pow", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658156
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "Prelu", ",", "PreluInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "import", "{", "BinaryOpProgram", "}", "from", "'../binary_op_webgpu'", ";", "export", "function", "prelu", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", "}", "=", "args", ";", "const", "{", "x", ",", "alpha", "}", "=", "inputs", ";", "const", "program", "=", "new", "BinaryOpProgram", "(", "BinaryOpType", ".", "PRELU", ",", "x", ".", "shape", ",", "alpha", ".", "shape", ")", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", ",", "alpha", "]", ",", "'float32'", ")", ";", "}", "export", "const", "preluConfig", "=", "{", "kernelName", ":", "Prelu", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "prelu", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658157
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "Prod", ",", "ProdAttrs", ",", "ProdInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "reduce", "}", "from", "'../kernel_utils/reduce'", ";", "export", "function", "prod", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "axis", ",", "keepDims", "}", "=", "attrs", ";", "return", "reduce", "(", "x", ",", "axis", ",", "keepDims", ",", "'prod'", ",", "backend", ")", ";", "}", "export", "const", "prodConfig", "=", "{", "kernelName", ":", "Prod", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "prod", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658158
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "Range", ",", "RangeAttrs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "rangeImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "export", "const", "range", "=", "(", "args", ")", ":", "TensorInfo", "=>", "{", "const", "{", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "start", ",", "stop", ",", "step", ",", "dtype", "}", "=", "attrs", ";", "const", "values", "=", "rangeImplCPU", "(", "start", ",", "stop", ",", "step", ",", "dtype", ")", ";", "return", "backend", ".", "makeTensorInfo", "(", "[", "values", ".", "length", "]", ",", "dtype", ",", "values", ")", ";", "}", ";", "export", "const", "rangeConfig", "=", "{", "kernelName", ":", "Range", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "range", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658159
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "RealDiv", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "realDiv", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "DIV", "}", ")", ";", "export", "const", "realDivConfig", "=", "{", "kernelName", ":", "RealDiv", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "realDiv", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658160
[ "license", "import", "{", "KernelConfig", ",", "Relu", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "relu", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "RELU", "}", ")", ";", "export", "const", "reluConfig", "=", "{", "kernelName", ":", "Relu", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "relu", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658161
[ "license", "import", "{", "KernelConfig", ",", "Relu6", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "relu6", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "RELU6", "}", ")", ";", "export", "const", "relu6Config", "=", "{", "kernelName", ":", "Relu6", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "relu6", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658162
[ "license", "import", "{", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "ResizeBilinearProgram", "implements", "WebGPUProgram", "{", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "variableNames", "=", "[", "'x'", "]", ";", "uniforms", "=", "'adjustHeightWidth : vec2<f32>; halfPixelCenters : f32;'", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "size", "=", "true", ";", "constructor", "(", "inputShape", ",", "newHeight", ",", "newWidth", ")", "{", "this", ".", "outputShape", "=", "[", "inputShape", "[", "0", "]", ",", "newHeight", ",", "newWidth", ",", "inputShape", "[", "3", "]", "]", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "shaderKey", "=", "`resizeBilinear`", ";", "}", "getUserCode", "(", ")", "{", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let coords = getCoordsFromIndex(index);\n let b = coords[0];\n let d = coords[3];\n let rc = coords.yz;\n\n let effectiveInSize = vec2<f32>(\n f32(uniforms.xShape.y) - uniforms.adjustHeightWidth[0],\n f32(uniforms.xShape.z) - uniforms.adjustHeightWidth[1]);\n\n let effectiveOutSize = vec2<f32>(\n f32(uniforms.outShape.y) - uniforms.adjustHeightWidth[0],\n f32(uniforms.outShape.z) - uniforms.adjustHeightWidth[1]);\n\n let effectiveInputOverOutputRatioRC =\n effectiveInSize / effectiveOutSize;\n\n // Fractional source index\n let sourceFracIndexRC =\n (vec2<f32>(rc) + vec2<f32>(uniforms.halfPixelCenters)) *\n effectiveInputOverOutputRatioRC - vec2<f32>(uniforms.halfPixelCenters);\n\n // Compute the four integer indices.\n let sourceFloorRC = vec2<i32>(sourceFracIndexRC);\n let sourceCeilRC = vec2<i32>(\n min(vec2<f32>(uniforms.xShape.yz) - vec2<f32>(1.0), ceil(sourceFracIndexRC)));\n\n let topLeft = getX(b, sourceFloorRC.x, sourceFloorRC.y, d);\n let bottomLeft = getX(b, sourceCeilRC.x, sourceFloorRC.y, d);\n let topRight = getX(b, sourceFloorRC.x, sourceCeilRC.y, d);\n let bottomRight = getX(b, sourceCeilRC.x, sourceCeilRC.y, d);\n\n let fracRC = sourceFracIndexRC - vec2<f32>(sourceFloorRC);\n\n let top = topLeft + (topRight - topLeft) * fracRC.y;\n let bottom = bottomLeft + (bottomRight - bottomLeft) * fracRC.y;\n let newValue = top + (bottom - top) * fracRC.x;\n\n setOutputAtIndex(index, newValue);\n }\n }\n `", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 3, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null ]
658163
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "ResizeBilinear", ",", "ResizeBilinearAttrs", ",", "ResizeBilinearInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "ResizeBilinearProgram", "}", "from", "'../resize_bilinear_webgpu'", ";", "export", "function", "resizeBilinear", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "images", "}", "=", "inputs", ";", "const", "{", "alignCorners", ",", "size", ",", "halfPixelCenters", "}", "=", "attrs", ";", "const", "[", "newHeight", ",", "newWidth", "]", "=", "size", ";", "const", "adjustHeight", "=", "alignCorners", "&&", "newHeight", ">", "1", "?", "1.0", ":", "0.0", ";", "const", "adjustWidth", "=", "alignCorners", "&&", "newWidth", ">", "1", "?", "1.0", ":", "0.0", ";", "const", "halfPixelCentersValue", "=", "halfPixelCenters", "?", "0.5", ":", "0.0", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'float32'", ",", "data", ":", "[", "adjustHeight", ",", "adjustWidth", "]", "}", ",", "{", "type", ":", "'float32'", ",", "data", ":", "[", "halfPixelCentersValue", "]", "}", "]", ";", "const", "program", "=", "new", "ResizeBilinearProgram", "(", "images", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "newHeight", ",", "newWidth", ")", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "images", "]", ",", "'float32'", ",", "uniformData", ")", ";", "}", "export", "const", "resizeBilinearConfig", "=", "{", "kernelName", ":", "ResizeBilinear", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "resizeBilinear", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658164
[ "license", "import", "{", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "ResizeNearestNeighborProgram", "implements", "WebGPUProgram", "{", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "variableNames", "=", "[", "'x'", "]", ";", "uniforms", "=", "'adjustHeightWidth : vec2<f32>; roundBase : f32;'", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "halfPixelCenters", ":", "boolean", ";", "size", "=", "true", ";", "constructor", "(", "inputShape", ",", "newHeight", ",", "newWidth", ",", "halfPixelCenters", ")", "{", "this", ".", "outputShape", "=", "[", "inputShape", "[", "0", "]", ",", "newHeight", ",", "newWidth", ",", "inputShape", "[", "3", "]", "]", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "halfPixelCenters", "=", "halfPixelCenters", ";", "this", ".", "shaderKey", "=", "`resizeNearest_${", "halfPixelCenters", "}`", ";", "}", "getUserCode", "(", ")", "{", "let", "sourceFracIndexRC", ";", "if", "(", "this", ".", "halfPixelCenters", ")", "{", "sourceFracIndexRC", "=", "`max((vec2<f32>(rc) + vec2<f32>(0.5)) * effectiveInputOverOutputRatioRC`", "+", "`, vec2<f32>(0.0))`", ";", "}", "else", "{", "sourceFracIndexRC", "=", "`vec2<f32>(rc) * effectiveInputOverOutputRatioRC`", ";", "}", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let coords = getCoordsFromIndex(index);\n let b = coords[0];\n let d = coords[3];\n let rc = coords.yz;\n\n let effectiveInSize = vec2<f32>(\n f32(uniforms.xShape.y) - uniforms.adjustHeightWidth[0],\n f32(uniforms.xShape.z) - uniforms.adjustHeightWidth[1]);\n\n let effectiveOutSize = vec2<f32>(\n f32(uniforms.outShape.y) - uniforms.adjustHeightWidth[0],\n f32(uniforms.outShape.z) - uniforms.adjustHeightWidth[1]);\n\n let effectiveInputOverOutputRatioRC =\n effectiveInSize / effectiveOutSize;\n\n // Fractional source index\n let sourceFracIndexRC = ${", "sourceFracIndexRC", "};\n\n // Compute the coordinators of nearest neighbor point.\n let inputShapeRC = vec2<f32>(f32(uniforms.xShape.y), f32(uniforms.xShape.z));\n let sourceNearestRC = vec2<i32>(\n min(inputShapeRC - 1.0, floor(sourceFracIndexRC + uniforms.roundBase)));\n let newValue = getX(b, sourceNearestRC.x, sourceNearestRC.y, d);\n\n setOutputAtIndex(index, newValue);\n }\n }\n `", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 3, null, 3, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658165
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "ResizeNearestNeighbor", ",", "ResizeNearestNeighborAttrs", ",", "ResizeNearestNeighborInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "ResizeNearestNeighborProgram", "}", "from", "'../resize_nearest_neighbor_webgpu'", ";", "export", "function", "resizeNearestNeighbor", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "images", "}", "=", "inputs", ";", "const", "{", "alignCorners", ",", "halfPixelCenters", ",", "size", "}", "=", "attrs", ";", "const", "[", "newHeight", ",", "newWidth", "]", "=", "size", ";", "const", "adjustHeight", "=", "alignCorners", "&&", "newHeight", ">", "1", "?", "1.0", ":", "0.0", ";", "const", "adjustWidth", "=", "alignCorners", "&&", "newWidth", ">", "1", "?", "1.0", ":", "0.0", ";", "const", "roundBase", "=", "alignCorners", "?", "0.5", ":", "0.0", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'float32'", ",", "data", ":", "[", "adjustHeight", ",", "adjustWidth", "]", "}", ",", "{", "type", ":", "'float32'", ",", "data", ":", "[", "roundBase", "]", "}", "]", ";", "const", "program", "=", "new", "ResizeNearestNeighborProgram", "(", "images", ".", "shape", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ",", "newHeight", ",", "newWidth", ",", "halfPixelCenters", ")", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "images", "]", ",", "images", ".", "dtype", ",", "uniformData", ")", ";", "}", "export", "const", "resizeNearestNeighborConfig", "=", "{", "kernelName", ":", "ResizeNearestNeighbor", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "resizeNearestNeighbor", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658166
[ "license", "import", "{", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "RotateProgram", "implements", "WebGPUProgram", "{", "outputShape", ":", "number", "[", "]", "=", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "variableNames", "=", "[", "'x'", "]", ";", "uniforms", ":", "string", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "fillSnippet", ":", "string", ";", "size", "=", "true", ";", "constructor", "(", "imageShape", ",", "fillValue", ")", "{", "this", ".", "outputShape", "=", "imageShape", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "uniforms", "=", "`centerX : f32; centerY : f32; sinRadians : f32;\n cosRadians : f32;`", ";", "this", ".", "shaderKey", "=", "'rotate'", ";", "this", ".", "outputShape", "=", "imageShape", ";", "if", "(", "typeof", "fillValue", "===", "'number'", ")", "{", "this", ".", "uniforms", "+=", "` fillValue : f32;`", ";", "this", ".", "fillSnippet", "=", "`var outputValue = uniforms.fillValue;`", ";", "this", ".", "shaderKey", "+=", "'_float'", ";", "}", "else", "{", "this", ".", "uniforms", "+=", "` fillValue : vec3<f32>;`", ";", "this", ".", "fillSnippet", "=", "`var outputValue = uniforms.fillValue[coords[3]];`", ";", "this", ".", "shaderKey", "+=", "'_vec3'", ";", "}", "}", "getUserCode", "(", ")", "{", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n\n if (index < uniforms.size) {\n let coords = getCoordsFromIndex(index);\n let coordXFloat = (f32(coords[2]) - uniforms.centerX) *\n uniforms.cosRadians - (f32(coords[1]) - uniforms.centerY) *\n uniforms.sinRadians;\n let coordYFloat = (f32(coords[2]) - uniforms.centerX) *\n uniforms.sinRadians + (f32(coords[1]) - uniforms.centerY) *\n uniforms.cosRadians;\n let coordX = i32(round(coordXFloat + uniforms.centerX));\n let coordY = i32(round(coordYFloat + uniforms.centerY));\n ${", "this", ".", "fillSnippet", "}\n if(coordX >= 0 && coordX < uniforms.xShape[2] && coordY >= 0 &&\n coordY < uniforms.xShape[1]) {\n outputValue = getX(coords[0], coordY, coordX, coords[3]);\n }\n setOutputAtIndex(index, outputValue);\n }\n }\n `", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658167
[ "license", "import", "{", "backend_util", ",", "KernelConfig", ",", "Tensor4D", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "RotateWithOffset", ",", "RotateWithOffsetAttrs", ",", "RotateWithOffsetInputs", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "RotateProgram", "}", "from", "'../rotate_webgpu'", ";", "export", "const", "rotateWithOffsetConfig", "=", "{", "kernelName", ":", "RotateWithOffset", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "(", "{", "inputs", ",", "attrs", ",", "backend", "}", ")", "=>", "{", "const", "{", "image", "}", "=", "inputs", "as", "RotateWithOffsetInputs", ";", "const", "{", "radians", ",", "fillValue", ",", "center", "}", "=", "attrs", "as", "{", "}", "as", "RotateWithOffsetAttrs", ";", "const", "webgpuBackend", "=", "backend", "as", "WebGPUBackend", ";", "const", "program", "=", "new", "RotateProgram", "(", "(", "image", "as", "Tensor4D", ")", ".", "shape", ",", "fillValue", ")", ";", "const", "[", "centerX", ",", "centerY", "]", "=", "backend_util", ".", "getImageCenter", "(", "center", ",", "image", ".", "shape", "[", "1", "]", ",", "image", ".", "shape", "[", "2", "]", ")", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'float32'", ",", "data", ":", "[", "centerX", "]", "}", ",", "{", "type", ":", "'float32'", ",", "data", ":", "[", "centerY", "]", "}", ",", "{", "type", ":", "'float32'", ",", "data", ":", "[", "Math", ".", "sin", "(", "radians", ")", "]", "}", ",", "{", "type", ":", "'float32'", ",", "data", ":", "[", "Math", ".", "cos", "(", "radians", ")", "]", "}", "]", ";", "if", "(", "typeof", "fillValue", "===", "'number'", ")", "{", "uniformData", ".", "push", "(", "{", "type", ":", "'float32'", ",", "data", ":", "[", "Number", ".", "parseFloat", "(", "fillValue", ".", "toFixed", "(", "2", ")", ")", "]", "}", ")", ";", "}", "else", "{", "uniformData", ".", "push", "(", "{", "type", ":", "'float32'", ",", "data", ":", "fillValue", "}", ")", ";", "}", "const", "output", "=", "webgpuBackend", ".", "runWebGPUProgram", "(", "program", ",", "[", "image", "]", ",", "image", ".", "dtype", ",", "uniformData", ")", ";", "return", "output", ";", "}", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 25938, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658168
[ "license", "import", "{", "KernelConfig", ",", "Rsqrt", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "rsqrtImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "rsqrt", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "RSQRT", ",", "cpuKernelImpl", ":", "rsqrtImplCPU", "}", ")", ";", "export", "const", "rsqrtConfig", "=", "{", "kernelName", ":", "Rsqrt", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "rsqrt", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658169
[ "license", "import", "{", "DataType", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "getCoordsDataType", ",", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "ScatterOptimizedProgram", "implements", "WebGPUProgram", "{", "variableNames", "=", "[", "'updates'", ",", "'indices'", "]", ";", "uniforms", ":", "string", ";", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "updatesRank", ":", "number", ";", "indicesRank", ":", "number", ";", "sliceDimGreaterThanOne", ":", "boolean", ";", "atomic", "=", "true", ";", "type", ":", "DataType", ";", "constructor", "(", "flattenXShape", ",", "sliceDim", ",", "indicesRank", ",", "updatesRank", ",", "strides", ",", "shape", ",", "outputDtype", ")", "{", "this", ".", "outputShape", "=", "shape", ";", "this", ".", "type", "=", "outputDtype", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "flattenXShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "flattenXShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "sliceDimGreaterThanOne", "=", "sliceDim", ">", "1", ";", "this", ".", "shaderKey", "=", "`scatter_${", "indicesRank", "}_${", "updatesRank", "}_${", "this", ".", "sliceDimGreaterThanOne", "}_${", "outputDtype", "}`", ";", "const", "stridesType", "=", "getCoordsDataType", "(", "strides", ".", "length", ")", ";", "this", ".", "uniforms", "=", "`sliceDim : i32; strides: ${", "stridesType", "}; size: i32;`", ";", "this", ".", "updatesRank", "=", "updatesRank", ";", "this", ".", "indicesRank", "=", "indicesRank", ";", "}", "getUserCode", "(", ")", "{", "let", "indicesString", "=", "''", ";", "if", "(", "this", ".", "indicesRank", "===", "1", ")", "{", "indicesString", "=", "'coords[0]'", ";", "}", "else", "if", "(", "this", ".", "indicesRank", "===", "2", ")", "{", "indicesString", "=", "'coords[0], j'", ";", "}", "const", "indicesSnippet", "=", "`getIndices(${", "indicesString", "})`", ";", "const", "strideString", "=", "this", ".", "sliceDimGreaterThanOne", "?", "'uniforms.strides[j]'", ":", "'uniforms.strides'", ";", "let", "updatesString", "=", "''", ";", "let", "outCoordsString", "=", "''", ";", "let", "getUpdatesCoordsFromFlatIndex", "=", "''", ";", "if", "(", "this", ".", "updatesRank", "===", "1", ")", "{", "updatesString", "=", "'coords[0]'", ";", "outCoordsString", "=", "'flattenedIndex'", ";", "getUpdatesCoordsFromFlatIndex", "=", "`\n fn getUpdatesCoordsFromFlatIndex(index : i32) -> i32 {\n return index;\n }\n `", ";", "}", "else", "if", "(", "this", ".", "updatesRank", "===", "2", ")", "{", "updatesString", "=", "'coords[0], coords[1]'", ";", "outCoordsString", "=", "'vec2<i32>(flattenedIndex, coords[1])'", ";", "getUpdatesCoordsFromFlatIndex", "=", "`\n fn getUpdatesCoordsFromFlatIndex(index : i32) -> vec2<i32> {\n let d0 = index / uniforms.updatesShape[1];\n let d1 = index - d0 * uniforms.updatesShape[1];\n return vec2<i32>(d0, d1);\n }\n `", ";", "}", "const", "updatesSnippet", "=", "`getUpdates(${", "updatesString", "})`", ";", "const", "atomicAddSnippet", "=", "this", ".", "type", "===", "'int32'", "?", "`atomicAdd(&(result.numbers[flatIndex]), i32(updateValue));`", ":", "`\n var assumed = atomicLoad(&(result.numbers[flatIndex]));\n var success = 0;\n for (; success == 0;) {\n let new = bitcast<f32>(assumed) + updateValue;\n let newI32 = bitcast<i32>(new);\n let resValue = atomicCompareExchangeWeak(&(result.numbers[flatIndex]), assumed, newI32);\n assumed = resValue[0];\n success = resValue[1];\n }\n `", ";", "const", "userCode", "=", "`\n ${", "getUpdatesCoordsFromFlatIndex", "}\n\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n\n if (index < uniforms.size) {\n let coords = getUpdatesCoordsFromFlatIndex(index);\n var flattenedIndex = 0;\n for (var j = 0; j < uniforms.sliceDim; j = j + 1) {\n let indexInside = i32(round(${", "indicesSnippet", "}));\n flattenedIndex = flattenedIndex + indexInside * ${", "strideString", "};\n }\n let updateValue = ${", "updatesSnippet", "};\n let flatIndex = getOutputIndexFromCoords(${", "outCoordsString", "});\n\n ${", "atomicAddSnippet", "}\n }\n }`", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 3, null, 3, null, 3, null, 5, null, 5, null, 457, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658170
[ "license", "import", "{", "backend_util", ",", "KernelConfig", ",", "KernelFunc", ",", "ScatterNd", ",", "ScatterNdAttrs", ",", "ScatterNdInputs", ",", "TensorInfo", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "fill", "}", "from", "'./Fill'", ";", "import", "{", "reshape", "}", "from", "'./Reshape'", ";", "import", "{", "ScatterOptimizedProgram", "}", "from", "'../scatter_optimized_webgpu'", ";", "export", "function", "scatterNd", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "indices", ",", "updates", "}", "=", "inputs", ";", "const", "{", "shape", "}", "=", "attrs", ";", "const", "{", "sliceRank", ",", "numUpdates", ",", "sliceSize", ",", "strides", ",", "outputSize", "}", "=", "backend_util", ".", "calculateShapes", "(", "updates", ",", "indices", ",", "shape", ")", ";", "const", "flattenShape", "=", "[", "outputSize", "/", "sliceSize", ",", "sliceSize", "]", ";", "if", "(", "outputSize", "===", "0", ")", "{", "return", "backend", ".", "makeTensorInfo", "(", "shape", ",", "indices", ".", "dtype", ")", ";", "}", "const", "flattenIndices", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "indices", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "numUpdates", ",", "sliceRank", "]", "}", "}", ")", ";", "const", "flattenX", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "updates", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "[", "numUpdates", ",", "sliceSize", "]", "}", "}", ")", ";", "const", "type", "=", "flattenX", ".", "dtype", ";", "const", "output", "=", "fill", "(", "{", "backend", ",", "attrs", ":", "{", "shape", ":", "flattenShape", ",", "value", ":", "0", ",", "dtype", ":", "type", "}", "}", ")", ";", "const", "size", "=", "util", ".", "sizeFromShape", "(", "flattenX", ".", "shape", ")", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "sliceRank", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "strides", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "size", "]", "}", "]", ";", "const", "program", "=", "new", "ScatterOptimizedProgram", "(", "flattenX", ".", "shape", ",", "sliceRank", ",", "flattenIndices", ".", "shape", ".", "length", ",", "flattenX", ".", "shape", ".", "length", ",", "strides", ",", "flattenShape", ",", "type", ")", ";", "const", "res", "=", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "flattenX", ",", "flattenIndices", "]", ",", "type", ",", "uniformData", ",", "output", ")", ";", "const", "reshaped", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "res", "}", ",", "backend", ",", "attrs", ":", "{", "shape", "}", "}", ")", ";", "backend", ".", "disposeData", "(", "flattenIndices", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "flattenX", ".", "dataId", ")", ";", "backend", ".", "disposeData", "(", "res", ".", "dataId", ")", ";", "return", "reshaped", ";", "}", "export", "const", "scatterNdConfig", "=", "{", "kernelName", ":", "ScatterNd", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "scatterNd", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658171
[ "license", "import", "{", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "SelectProgram", "implements", "WebGPUProgram", "{", "variableNames", "=", "[", "'c'", ",", "'a'", ",", "'b'", "]", ";", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "cRank", ":", "number", ";", "rank", ":", "number", ";", "size", "=", "true", ";", "constructor", "(", "cRank", ",", "shape", ",", "rank", ")", "{", "this", ".", "outputShape", "=", "shape", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "cRank", "=", "cRank", ";", "this", ".", "rank", "=", "rank", ";", "this", ".", "shaderKey", "=", "'select'", ";", "}", "getUserCode", "(", ")", "{", "let", "cCoords", ";", "let", "abCoords", ";", "if", "(", "this", ".", "rank", ">", "4", ")", "{", "throw", "Error", "(", "`Where for rank ${", "this", ".", "rank", "} is not yet supported`", ")", ";", "}", "if", "(", "this", ".", "rank", "===", "1", ")", "{", "abCoords", "=", "`resRC`", ";", "cCoords", "=", "`resRC`", ";", "}", "else", "{", "const", "currentCoords", "=", "[", "'resRC.x'", ",", "'resRC.y'", ",", "'resRC.z'", ",", "'resRC.w'", "]", ";", "const", "cCoordVars", "=", "[", "]", ";", "const", "abCoordVars", "=", "[", "]", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "this", ".", "outputShape", ".", "length", ";", "i", "++", ")", "{", "abCoordVars", ".", "push", "(", "`${", "currentCoords", "[", "i", "]", "}`", ")", ";", "if", "(", "i", "<", "this", ".", "cRank", ")", "{", "cCoordVars", ".", "push", "(", "`${", "currentCoords", "[", "i", "]", "}`", ")", ";", "}", "}", "cCoords", "=", "cCoordVars", ".", "join", "(", ")", ";", "abCoords", "=", "abCoordVars", ".", "join", "(", ")", ";", "}", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let resRC = getCoordsFromIndex(index);\n let cVal = getC(${", "cCoords", "});\n if (cVal >= 1.0) {\n setOutputAtIndex(index, getA(${", "abCoords", "}));\n } else {\n setOutputAtIndex(index, getB(${", "abCoords", "}));\n }\n }\n }\n `", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, 5, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, 5, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658172
[ "license", "import", "{", "KernelConfig", ",", "Sigmoid", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "sigmoid", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "SIGMOID", "}", ")", ";", "export", "const", "sigmoidConfig", "=", "{", "kernelName", ":", "Sigmoid", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "sigmoid", ",", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658173
[ "license", "import", "{", "KernelConfig", ",", "Sin", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "sin", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "SIN", "}", ")", ";", "export", "const", "sinConfig", "=", "{", "kernelName", ":", "Sin", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "sin", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658174
[ "license", "import", "{", "KernelConfig", ",", "Sinh", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "sinh", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "SINH", "}", ")", ";", "export", "const", "sinhConfig", "=", "{", "kernelName", ":", "Sinh", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "sinh", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658175
[ "license", "import", "{", "backend_util", ",", "KernelConfig", ",", "KernelFunc", ",", "SpaceToBatchND", ",", "SpaceToBatchNDAttrs", ",", "SpaceToBatchNDInputs", ",", "TensorInfo", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "padV2", "}", "from", "'./PadV2'", ";", "import", "{", "reshape", "}", "from", "'./Reshape'", ";", "import", "{", "transpose", "}", "from", "'./Transpose'", ";", "export", "const", "spaceToBatchND", "=", "(", "args", ")", ":", "TensorInfo", "=>", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "blockShape", ",", "paddings", "}", "=", "attrs", ";", "util", ".", "assert", "(", "x", ".", "shape", ".", "length", "<=", "4", ",", "(", ")", "=>", "'spaceToBatchND for rank > 4 with a WebGPU backend not '", "+", "'implemented yet'", ")", ";", "const", "prod", "=", "blockShape", ".", "reduce", "(", "(", "a", ",", "b", ")", "=>", "a", "*", "b", ")", ";", "const", "completePaddings", "=", "[", "[", "0", ",", "0", "]", "]", ";", "completePaddings", ".", "push", "(", "...", "paddings", "as", "Array", "<", "[", "number", ",", "number", "]", ">", ")", ";", "for", "(", "let", "i", "=", "1", "+", "blockShape", ".", "length", ";", "i", "<", "x", ".", "shape", ".", "length", ";", "++", "i", ")", "{", "completePaddings", ".", "push", "(", "[", "0", ",", "0", "]", ")", ";", "}", "const", "toDispose", "=", "[", "]", ";", "const", "paddedX", "=", "padV2", "(", "{", "inputs", ":", "{", "x", "}", ",", "backend", ",", "attrs", ":", "{", "paddings", ":", "completePaddings", ",", "constantValue", ":", "0", "}", "}", ")", ";", "const", "reshapedPaddedShape", "=", "backend_util", ".", "getReshaped", "(", "paddedX", ".", "shape", ",", "blockShape", ",", "prod", ",", "false", ")", ";", "const", "permutedReshapedPaddedPermutation", "=", "backend_util", ".", "getPermuted", "(", "reshapedPaddedShape", ".", "length", ",", "blockShape", ".", "length", ",", "false", ")", ";", "const", "flattenShape", "=", "backend_util", ".", "getReshapedPermuted", "(", "paddedX", ".", "shape", ",", "blockShape", ",", "prod", ",", "false", ")", ";", "const", "reshapedPaddedX", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "paddedX", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "reshapedPaddedShape", "}", "}", ")", ";", "const", "paddedXT", "=", "transpose", "(", "{", "inputs", ":", "{", "x", ":", "reshapedPaddedX", "}", ",", "backend", ",", "attrs", ":", "{", "perm", ":", "permutedReshapedPaddedPermutation", "}", "}", ")", ";", "const", "result", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "paddedXT", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "flattenShape", "}", "}", ")", ";", "toDispose", ".", "push", "(", "paddedX", ")", ";", "toDispose", ".", "push", "(", "reshapedPaddedX", ")", ";", "toDispose", ".", "push", "(", "paddedXT", ")", ";", "toDispose", ".", "forEach", "(", "t", "=>", "backend", ".", "disposeData", "(", "t", ".", "dataId", ")", ")", ";", "return", "result", ";", "}", ";", "export", "const", "spaceToBatchNDConfig", "=", "{", "kernelName", ":", "SpaceToBatchND", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "spaceToBatchND", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 13, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658176
[ "license", "import", "{", "getCoordsDataType", ",", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "ScatterProgram", "implements", "WebGPUProgram", "{", "variableNames", "=", "[", "'updates'", ",", "'indices'", ",", "'defaultValue'", "]", ";", "uniforms", ":", "string", ";", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "workPerThread", "=", "4", ";", "size", "=", "true", ";", "indicesSnippet", ":", "string", ";", "strideString", ":", "string", ";", "updatesSnippet", ":", "string", ";", "constructor", "(", "updateSize", ",", "sliceDim", ",", "indicesRank", ",", "updatesRank", ",", "strides", ",", "shape", ",", "summingDupeIndex", "=", "true", ")", "{", "this", ".", "outputShape", "=", "shape", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ",", "[", "this", ".", "workPerThread", ",", "1", ",", "1", "]", ")", ";", "const", "sliceDimGreaterThanOne", "=", "sliceDim", ">", "1", ";", "this", ".", "shaderKey", "=", "`scatter_${", "indicesRank", "}_${", "updatesRank", "}_${", "sliceDimGreaterThanOne", "}`", ";", "const", "stridesType", "=", "getCoordsDataType", "(", "strides", ".", "length", ")", ";", "this", ".", "uniforms", "=", "`updateSize : i32; sliceDim : i32; strides: ${", "stridesType", "};`", ";", "let", "indicesString", "=", "''", ";", "if", "(", "indicesRank", "===", "1", ")", "{", "indicesString", "=", "'i'", ";", "}", "else", "if", "(", "indicesRank", "===", "2", ")", "{", "indicesString", "=", "'i, j'", ";", "}", "this", ".", "indicesSnippet", "=", "`getIndices(${", "indicesString", "})`", ";", "let", "updatesString", "=", "''", ";", "if", "(", "updatesRank", "===", "1", ")", "{", "updatesString", "=", "'i'", ";", "}", "else", "if", "(", "updatesRank", "===", "2", ")", "{", "updatesString", "=", "'i, coords[1]'", ";", "}", "this", ".", "updatesSnippet", "=", "`getUpdates(${", "updatesString", "})`", ";", "this", ".", "strideString", "=", "sliceDimGreaterThanOne", "?", "'uniforms.strides[j]'", ":", "'uniforms.strides'", ";", "}", "getUserCode", "(", ")", "{", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n\n let globalIndex = index * ${", "this", ".", "workPerThread", "};\n if (globalIndex < uniforms.size) {\n var sum = vec4<f32>(0.0);\n var found = vec4<bool>(false);\n for (var i = 0; i < uniforms.updateSize; i = i + 1) {\n var flattenedIndex = 0;\n for (var j = 0; j < uniforms.sliceDim; j = j + 1) {\n let indexInside = i32(round(${", "this", ".", "indicesSnippet", "}));\n flattenedIndex = flattenedIndex + indexInside * ${", "this", ".", "strideString", "};\n }\n for (var innerIndex = 0; innerIndex < ${", "this", ".", "workPerThread", "}; innerIndex = innerIndex + 1) {\n let curIndex = globalIndex + innerIndex;\n let coords = getCoordsFromIndex(curIndex);\n if (flattenedIndex == coords[0]) {\n sum[innerIndex] = sum[innerIndex] + ${", "this", ".", "updatesSnippet", "};\n found[innerIndex] = true;\n }\n }\n }\n for (var innerIndex = 0; innerIndex < ${", "this", ".", "workPerThread", "}; innerIndex = innerIndex + 1) {\n let curIndex = globalIndex + innerIndex;\n if (curIndex < uniforms.size)\n {\n setOutputAtIndex(curIndex, mix(getDefaultValue(), sum[innerIndex], f32(found[innerIndex])));\n }\n }\n }\n }`", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, 3, null, 3, null, 3, null, 5, null, 5, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658177
[ "license", "import", "{", "backend_util", ",", "KernelConfig", ",", "KernelFunc", ",", "SparseToDense", ",", "SparseToDenseAttrs", ",", "SparseToDenseInputs", ",", "TensorInfo", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "reshape", "}", "from", "'./Reshape'", ";", "import", "{", "ScatterProgram", "}", "from", "'../scatter_webgpu'", ";", "export", "function", "sparseToDense", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "sparseIndices", ",", "sparseValues", ",", "defaultValue", "}", "=", "inputs", ";", "const", "{", "outputShape", "}", "=", "attrs", ";", "const", "{", "sliceRank", ",", "numUpdates", ",", "strides", ",", "outputSize", "}", "=", "backend_util", ".", "calculateShapes", "(", "sparseValues", ",", "sparseIndices", ",", "outputShape", ")", ";", "const", "sumDupeIndices", "=", "false", ";", "const", "uniformData", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "numUpdates", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "sliceRank", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "strides", "}", ",", "]", ";", "const", "program", "=", "new", "ScatterProgram", "(", "numUpdates", ",", "sliceRank", ",", "sparseIndices", ".", "shape", ".", "length", ",", "sparseValues", ".", "shape", ".", "length", ",", "strides", ",", "[", "outputSize", ",", "1", "]", ",", "sumDupeIndices", ")", ";", "const", "res", "=", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "sparseValues", ",", "sparseIndices", ",", "defaultValue", "]", ",", "sparseValues", ".", "dtype", ",", "uniformData", ")", ";", "const", "reshaped", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "res", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "outputShape", "}", "}", ")", ";", "backend", ".", "disposeData", "(", "res", ".", "dataId", ")", ";", "return", "reshaped", ";", "}", "export", "const", "sparseToDenseConfig", "=", "{", "kernelName", ":", "SparseToDense", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "sparseToDense", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 35687, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658178
[ "license", "import", "{", "KernelConfig", ",", "Sqrt", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "sqrt", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "SQRT", "}", ")", ";", "export", "const", "sqrtConfig", "=", "{", "kernelName", ":", "Sqrt", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "sqrt", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658179
[ "license", "import", "{", "KernelConfig", ",", "Square", ",", "SquareInputs", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "UnaryOpProgram", "}", "from", "'../unary_op_webgpu'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "squareConfig", "=", "{", "kernelName", ":", "Square", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "(", "{", "inputs", ",", "backend", "}", ")", "=>", "{", "const", "{", "x", "}", "=", "inputs", "as", "SquareInputs", ";", "const", "webGPUBackend", "=", "backend", "as", "WebGPUBackend", ";", "const", "program", "=", "new", "UnaryOpProgram", "(", "x", ".", "shape", ",", "UnaryOpType", ".", "SQUARE", ")", ";", "return", "webGPUBackend", ".", "runWebGPUProgram", "(", "program", ",", "[", "x", "]", ",", "x", ".", "dtype", ")", ";", "}", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 25938, null, null, null, null, null, null, 19981, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658180
[ "license", "import", "{", "KernelConfig", ",", "SquaredDifference", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "binaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "BinaryOpType", "}", "from", "'../binary_op_util'", ";", "export", "const", "squaredDifference", "=", "binaryKernelFunc", "(", "{", "opSnippet", ":", "BinaryOpType", ".", "SQUARED_DIFFERENCE", ",", "}", ")", ";", "export", "const", "squaredDifferenceConfig", "=", "{", "kernelName", ":", "SquaredDifference", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "squaredDifference", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658181
[ "license", "import", "{", "getCoordsDataType", ",", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "StridedSliceProgram", "implements", "WebGPUProgram", "{", "variableNames", "=", "[", "'x'", "]", ";", "uniforms", ":", "string", ";", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "workPerThread", "=", "1", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "size", "=", "true", ";", "constructor", "(", "destSize", ")", "{", "this", ".", "outputShape", "=", "destSize", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ",", "[", "this", ".", "workPerThread", ",", "1", ",", "1", "]", ")", ";", "const", "dtype", "=", "getCoordsDataType", "(", "this", ".", "outputShape", ".", "length", ")", ";", "this", ".", "uniforms", "=", "`begin : ${", "dtype", "}; strides : ${", "dtype", "}; `", ";", "this", ".", "shaderKey", "=", "'stridedSlice'", ";", "}", "getUserCode", "(", ")", "{", "const", "rank", "=", "this", ".", "outputShape", ".", "length", ";", "let", "newCoords", "=", "''", ";", "if", "(", "rank", "===", "1", ")", "{", "newCoords", "=", "'coords * uniforms.strides + uniforms.begin'", ";", "}", "else", "{", "let", "outputAxis", "=", "0", ";", "newCoords", "=", "this", ".", "outputShape", ".", "map", "(", "(", "_", ",", "i", ")", "=>", "{", "outputAxis", "++", ";", "return", "this", ".", "outputShape", ".", "length", "===", "1", "?", "`coords * uniforms.strides[${", "i", "}] + uniforms.begin[${", "i", "}]`", ":", "`coords[${", "outputAxis", "-", "1", "}] * uniforms.strides[${", "i", "}] + uniforms.begin[${", "i", "}]`", ";", "}", ")", ".", "join", "(", "','", ")", ";", "}", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let coords = getCoordsFromIndex(index);\n setOutputAtIndex(index, getX(${", "newCoords", "}));\n }\n }\n `", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 3, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658182
[ "license", "import", "{", "KernelConfig", ",", "Tanh", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "unaryKernelFunc", "}", "from", "'../kernel_utils/kernel_funcs_utils'", ";", "import", "{", "UnaryOpType", "}", "from", "'../unary_op_util'", ";", "export", "const", "tanh", "=", "unaryKernelFunc", "(", "{", "opType", ":", "UnaryOpType", ".", "TANH", "}", ")", ";", "export", "const", "tanhConfig", "=", "{", "kernelName", ":", "Tanh", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "tanh", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658183
[ "license", "import", "{", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "TileProgram", "implements", "WebGPUProgram", "{", "variableNames", "=", "[", "'A'", "]", ";", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "size", "=", "true", ";", "rank", ":", "number", ";", "constructor", "(", "aShape", ",", "reps", ")", "{", "const", "outputShape", "=", "new", "Array", "(", "aShape", ".", "length", ")", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "outputShape", ".", "length", ";", "i", "++", ")", "{", "outputShape", "[", "i", "]", "=", "aShape", "[", "i", "]", "*", "reps", "[", "i", "]", ";", "}", "this", ".", "outputShape", "=", "outputShape", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "rank", "=", "this", ".", "outputShape", ".", "length", ";", "this", ".", "shaderKey", "=", "'tile'", ";", "}", "getUserCode", "(", ")", "{", "const", "sourceCoords", "=", "getSourceCoords", "(", "this", ".", "rank", ",", "'uniforms.'", ")", ";", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let resRC = getCoordsFromIndex(index);\n setOutputAtIndex(index, getA(${", "sourceCoords", "}));\n }\n }\n `", ";", "return", "userCode", ";", "}", "}", "function", "getSourceCoords", "(", "rank", ",", "uniformPrefix", "=", "''", ")", "{", "if", "(", "rank", ">=", "5", ")", "{", "throw", "Error", "(", "`Tile for rank ${", "rank", "} is not yet supported`", ")", ";", "}", "if", "(", "rank", "===", "1", ")", "{", "return", "`(resRC % ${", "uniformPrefix", "}aShape)`", ";", "}", "const", "currentCoords", "=", "[", "'resRC.x'", ",", "'resRC.y'", ",", "'resRC.z'", ",", "'resRC.w'", "]", ";", "const", "sourceCoords", "=", "[", "]", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "rank", ";", "i", "++", ")", "{", "sourceCoords", ".", "push", "(", "`(${", "currentCoords", "[", "i", "]", "} % ${", "uniformPrefix", "}aShape[${", "i", "}])`", ")", ";", "}", "return", "sourceCoords", ".", "join", "(", ")", ";", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 5, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, 3, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658184
[ "license", "import", "{", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "export", "class", "SwapProgram", "implements", "WebGPUProgram", "{", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "variableNames", "=", "[", "'x'", ",", "'indices'", "]", ";", "uniforms", ":", "string", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "256", ",", "1", ",", "1", "]", ";", "size", "=", "true", ";", "constructor", "(", "shape", ")", "{", "this", ".", "outputShape", "=", "shape", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "uniforms", "=", "`inputSize : i32; firstPass : i32; negativeInf : f32;\n dir : i32; inc : i32;`", ";", "this", ".", "shaderKey", "=", "'swap'", ";", "}", "getUserCode", "(", ")", "{", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let outC = getCoordsFromIndex(index);\n let batch = outC[0];\n let elemIdx = outC[1];\n // We compare elements pair-wise within a group of size 2 * inc.\n // The comparing rule for each group alternates between ascending\n // and descending. Within each group, we compare each pair at\n // positions i and i+inc. To decide whether an element at position i\n // is x0 or x1, we mod it by 2 * inc, if the result is smaller than\n // inc, it is in the first half of the group, we denote it as x0,\n // otherwise we denote it as x1.\n // For example, as shown in the Bitonic top K paper referenced\n // above, Figure5(a) shows that element[1] is in the second half of\n // the group when group size is 2, but it is in the first half of\n // the group when group size is 4.\n let isFirstInPair = elemIdx % (2 * uniforms.inc) < uniforms.inc;\n var i = 0;\n if (isFirstInPair) {\n i = elemIdx;\n } else {\n i = elemIdx - uniforms.inc;\n }\n\n var i0 = 0;\n if (uniforms.firstPass == 1) {\n i0 = i;\n } else {\n i0 = i32(getIndices(batch, i));\n }\n\n var i1 = 0;\n if (uniforms.firstPass == 1) {\n i1 = i + uniforms.inc;\n } else {\n i1 = i32(getIndices(batch, i + uniforms.inc));\n }\n\n var x0 = f32(0.0);\n var x1 = f32(0.0);\n if (i0 < uniforms.inputSize) {\n x0 = getX(batch, i0);\n } else {\n x0 = uniforms.negativeInf;\n }\n if (i1 < uniforms.inputSize) {\n x1 = getX(batch, i1);\n } else {\n x1 = uniforms.negativeInf;\n }\n\n let reverse = elemIdx % (2 * uniforms.dir) >= uniforms.dir;\n let isGreater = x0 > x1 || (x0 == x1 && i1 > i0);\n if (reverse == isGreater) {\n // Elements in opposite order of direction\n let iTemp = i0;\n i0 = i1;\n i1 = iTemp;\n }\n if (isFirstInPair) {\n setOutputAtIndex(index, f32(i0));\n } else {\n setOutputAtIndex(index, f32(i1));\n }\n }\n }\n `", ";", "return", "userCode", ";", "}", "}", "export", "class", "MergeProgram", "implements", "WebGPUProgram", "{", "outputShape", ":", "number", "[", "]", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "variableNames", "=", "[", "'x'", ",", "'indices'", "]", ";", "uniforms", ":", "string", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "256", ",", "1", ",", "1", "]", ";", "size", "=", "true", ";", "constructor", "(", "shape", ")", "{", "this", ".", "outputShape", "=", "shape", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "uniforms", "=", "`inputSize : i32; firstPass : i32; k : i32;`", ";", "this", ".", "shaderKey", "=", "'merge'", ";", "}", "getUserCode", "(", ")", "{", "const", "userCode", "=", "`\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let outC = getCoordsFromIndex(index);\n let batch = outC[0];\n let elemIdx = outC[1];\n // The output size is half of the previous size.\n // If the previous sequence is | | | | _ _ _ _ | | | | _ _ _ _\n // (k=4), we only need to output the indices at positions |, the\n // indices at positions _ can be thrown away, see Figure5(b) After\n // Phase 2 (Merge phase) in the Bitonic Top K paper referenced\n // above.\n // For example, the paper shows we only need to output the orange\n // bars. The output sequence should look like this | | | | | | | |.\n // Because the sequence is halved, to map the output index back to\n // the previous sequence to find the corresponding value, we need\n // to double the index. When we double the index, we basically\n // interpolate a position, so 2i looks like\n // | _ | _ | _ | _ | _ | _ | _. We move the | to the first k\n // position of each 2k positions by - elemIdx % k. E.g. for output\n // at index 4,5,6,7, we want to get the corresponding element at\n // original index 8,9,10,11, for output at index 8,9,10,11,\n // we want to get the corresponding element at original index\n // 16,17,18,19, so on and so forth.\n\n var i = 0;\n if (elemIdx < uniforms.k) {\n i = elemIdx;\n } else {\n i = elemIdx * 2 - elemIdx % uniforms.k;\n }\n var i0 = 0;\n if (uniforms.firstPass == 1) {\n i0 = i;\n } else {\n i0 = i32(getIndices(batch, i));\n }\n var i1 = 0;\n if (uniforms.firstPass == 1) {\n i1 = i + uniforms.k;\n } else {\n i1 = i32(getIndices(batch, i + uniforms.k));\n }\n\n let x0 = getX(batch, i0);\n var x1 = f32(0.0);\n if (i1 < uniforms.inputSize) {\n x1 = getX(batch, i1);\n } else {\n x1 = x0;\n }\n\n if (x0 >= x1) {\n setOutputAtIndex(index, f32(i0));\n } else {\n setOutputAtIndex(index, f32(i1));\n }\n }\n }\n `", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null ]
658185
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "NumericDataType", ",", "TensorInfo", ",", "TopK", ",", "TopKAttrs", ",", "TopKInputs", ",", "TypedArray", ",", "util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "topKImplCPU", "}", "from", "'../kernel_utils/shared'", ";", "import", "{", "MergeProgram", ",", "SwapProgram", "}", "from", "'../top_k_webgpu'", ";", "import", "{", "fill", "}", "from", "'./Fill'", ";", "import", "{", "gatherV2", "}", "from", "'./GatherV2'", ";", "import", "{", "reshape", "}", "from", "'./Reshape'", ";", "import", "{", "slice", "}", "from", "'./Slice'", ";", "function", "disposeIntermediateTensorInfoOrNull", "(", "backend", ",", "tensorInfo", ")", "{", "if", "(", "tensorInfo", "!==", "null", ")", "{", "backend", ".", "disposeData", "(", "tensorInfo", ".", "dataId", ")", ";", "}", "}", "function", "roundUpToPow2", "(", "num", ")", "{", "let", "pow2", "=", "1", ";", "while", "(", "pow2", "<", "num", ")", "{", "pow2", "*=", "2", ";", "}", "return", "pow2", ";", "}", "export", "function", "topK", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "x", "}", "=", "inputs", ";", "const", "{", "k", ",", "sorted", "}", "=", "attrs", ";", "const", "xShape", "=", "x", ".", "shape", ";", "const", "lastDim", "=", "xShape", "[", "xShape", ".", "length", "-", "1", "]", ";", "if", "(", "backend", ".", "shouldExecuteOnCPU", "(", "[", "x", "]", ")", ")", "{", "const", "xVals", "=", "backend", ".", "readSync", "(", "x", ".", "dataId", ")", "as", "TypedArray", ";", "const", "[", "allTopKVals", ",", "allTopKIndices", "]", "=", "topKImplCPU", "(", "xVals", ",", "xShape", ",", "x", ".", "dtype", "as", "NumericDataType", ",", "k", ",", "sorted", ")", ";", "return", "[", "backend", ".", "makeTensorInfo", "(", "allTopKVals", ".", "shape", ",", "allTopKVals", ".", "dtype", ",", "allTopKVals", ".", "values", ")", ",", "backend", ".", "makeTensorInfo", "(", "allTopKIndices", ".", "shape", ",", "allTopKIndices", ".", "dtype", ",", "allTopKIndices", ".", "values", ")", "]", ";", "}", "if", "(", "k", "===", "0", ")", "{", "xShape", "[", "xShape", ".", "length", "-", "1", "]", "=", "0", ";", "return", "[", "backend", ".", "makeTensorInfo", "(", "xShape", ",", "x", ".", "dtype", ",", "[", "]", ")", ",", "backend", ".", "makeTensorInfo", "(", "xShape", ",", "'int32'", ",", "[", "]", ")", "]", ";", "}", "if", "(", "lastDim", "===", "1", ")", "{", "return", "[", "x", ",", "fill", "(", "{", "attrs", ":", "{", "shape", ":", "xShape", ",", "dtype", ":", "'int32'", ",", "value", ":", "0", "}", ",", "backend", "}", ")", "]", ";", "}", "const", "xSize", "=", "util", ".", "sizeFromShape", "(", "xShape", ")", ";", "const", "batch", "=", "xSize", "/", "lastDim", ";", "const", "x2D", "=", "reshape", "(", "{", "inputs", ":", "{", "x", "}", ",", "attrs", ":", "{", "shape", ":", "[", "batch", ",", "lastDim", "]", "}", ",", "backend", "}", ")", ";", "const", "kPow2", "=", "roundUpToPow2", "(", "k", ")", ";", "const", "lastDimPow2", "=", "roundUpToPow2", "(", "lastDim", ")", ";", "let", "indices", "=", "null", ";", "const", "getInputs", "=", "(", ")", "=>", "indices", "===", "null", "?", "[", "x2D", ",", "x2D", "]", ":", "[", "x2D", ",", "indices", "]", ";", "const", "runSwap", "=", "(", "dir", ",", "inc", ",", "shape", ")", "=>", "{", "const", "inputs", "=", "getInputs", "(", ")", ";", "const", "program", "=", "new", "SwapProgram", "(", "shape", ")", ";", "const", "firstPass", "=", "indices", "===", "null", "?", "1", ":", "0", ";", "const", "uniformDataSwap", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "lastDim", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "firstPass", "]", "}", ",", "{", "type", ":", "'float32'", ",", "data", ":", "[", "Number", ".", "NEGATIVE_INFINITY", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "dir", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "inc", "]", "}", "]", ";", "const", "prevIndices", "=", "indices", ";", "indices", "=", "backend", ".", "runWebGPUProgram", "(", "program", ",", "inputs", ",", "'int32'", ",", "uniformDataSwap", ")", ";", "disposeIntermediateTensorInfoOrNull", "(", "backend", ",", "prevIndices", ")", ";", "}", ";", "for", "(", "let", "len", "=", "1", ";", "len", "<", "kPow2", ";", "len", "*=", "2", ")", "{", "const", "dir", "=", "len", "*", "2", ";", "for", "(", "let", "inc", "=", "len", ";", "inc", ">=", "1", ";", "inc", "/=", "2", ")", "{", "runSwap", "(", "dir", ",", "inc", ",", "[", "batch", ",", "lastDimPow2", "]", ")", ";", "}", "}", "for", "(", "let", "indicesSize", "=", "lastDimPow2", ";", "indicesSize", ">", "kPow2", ";", "indicesSize", "/=", "2", ")", "{", "const", "inputs", "=", "getInputs", "(", ")", ";", "const", "mergeProgram", "=", "new", "MergeProgram", "(", "[", "batch", ",", "indicesSize", "/", "2", "]", ")", ";", "const", "firstPass", "=", "indices", "===", "null", "?", "1", ":", "0", ";", "const", "uniformDataMerge", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "lastDim", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "firstPass", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "kPow2", "]", "}", "]", ";", "const", "prevIndices", "=", "indices", ";", "indices", "=", "backend", ".", "runWebGPUProgram", "(", "mergeProgram", ",", "inputs", ",", "'int32'", ",", "uniformDataMerge", ")", ";", "disposeIntermediateTensorInfoOrNull", "(", "backend", ",", "prevIndices", ")", ";", "const", "len", "=", "kPow2", "/", "2", ";", "const", "dir", "=", "len", "*", "2", ";", "for", "(", "let", "inc", "=", "len", ";", "inc", ">=", "1", ";", "inc", "/=", "2", ")", "{", "runSwap", "(", "dir", ",", "inc", ",", "indices", ".", "shape", ")", ";", "}", "}", "let", "prevIndices", "=", "indices", ";", "indices", "=", "slice", "(", "{", "inputs", ":", "{", "x", ":", "indices", "}", ",", "backend", ",", "attrs", ":", "{", "begin", ":", "0", ",", "size", ":", "[", "batch", ",", "k", "]", "}", "}", ")", ";", "disposeIntermediateTensorInfoOrNull", "(", "backend", ",", "prevIndices", ")", ";", "let", "values", "=", "gatherV2", "(", "{", "inputs", ":", "{", "x", ":", "x2D", ",", "indices", "}", ",", "backend", ",", "attrs", ":", "{", "axis", ":", "1", ",", "batchDims", ":", "1", "}", "}", ")", ";", "disposeIntermediateTensorInfoOrNull", "(", "backend", ",", "x2D", ")", ";", "const", "newShape", "=", "xShape", ".", "slice", "(", "0", ",", "-", "1", ")", ";", "newShape", ".", "push", "(", "k", ")", ";", "prevIndices", "=", "indices", ";", "indices", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "indices", "}", ",", "attrs", ":", "{", "shape", ":", "newShape", "}", ",", "backend", "}", ")", ";", "disposeIntermediateTensorInfoOrNull", "(", "backend", ",", "prevIndices", ")", ";", "const", "prevValues", "=", "values", ";", "values", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "values", "}", ",", "attrs", ":", "{", "shape", ":", "newShape", "}", ",", "backend", "}", ")", ";", "disposeIntermediateTensorInfoOrNull", "(", "backend", ",", "prevValues", ")", ";", "return", "[", "values", ",", "indices", "]", ";", "}", "export", "const", "topKConfig", "=", "{", "kernelName", ":", "TopK", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "topK", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 4, null, 25938, null, 394, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, 3, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, 394, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 4, null, null, 3, null, 3, null, 5, null, null, null, null, 5, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658186
[ "license", "import", "{", "getMainHeaderAndGlobalIndexString", "}", "from", "'./shader_preprocessor'", ";", "import", "{", "WebGPUProgram", "}", "from", "'./webgpu_program'", ";", "import", "{", "computeDispatch", ",", "flatDispatchLayout", "}", "from", "'./webgpu_util'", ";", "export", "class", "TransformProgram", "implements", "WebGPUProgram", "{", "variableNames", "=", "[", "'Image'", ",", "'Transforms'", "]", ";", "outputShape", ":", "number", "[", "]", ";", "uniforms", "=", "'interpolationModeId : i32; fillModeId : i32; fillValue : f32;'", ";", "shaderKey", ":", "string", ";", "dispatchLayout", ":", "{", "x", ":", "number", "[", "]", ";", "}", ";", "dispatch", ":", "[", "number", ",", "number", ",", "number", "]", ";", "workGroupSize", ":", "[", "number", ",", "number", ",", "number", "]", "=", "[", "64", ",", "1", ",", "1", "]", ";", "size", "=", "true", ";", "constructor", "(", "outShape", ")", "{", "this", ".", "outputShape", "=", "outShape", ";", "this", ".", "dispatchLayout", "=", "flatDispatchLayout", "(", "this", ".", "outputShape", ")", ";", "this", ".", "dispatch", "=", "computeDispatch", "(", "this", ".", "dispatchLayout", ",", "this", ".", "outputShape", ",", "this", ".", "workGroupSize", ")", ";", "this", ".", "shaderKey", "=", "'transform'", ";", "}", "getUserCode", "(", ")", "{", "const", "userCode", "=", "`\n fn mapCoord(outCoord : f32, len : f32) -> f32{\n var inCoord = outCoord;\n if(uniforms.fillModeId == 2) {\n if (inCoord < 0.0) {\n if (len <= 1.0) {\n inCoord = 0.0;\n } else {\n let sz2 = 2.0 * len;\n if (inCoord < sz2) {\n inCoord = sz2 * f32(i32(f32(-inCoord / sz2))) +\n inCoord;\n }\n if (inCoord < -len) {\n inCoord = inCoord + sz2;\n } else {\n inCoord = -inCoord - 1.0;\n }\n }\n } else if (inCoord > len - 1.0) {\n if (len <= 1.0) {\n inCoord = 0.0;\n } else {\n let sz2 = 2.0 * len;\n inCoord = inCoord - sz2 * f32(i32(f32(inCoord / sz2)));\n if (inCoord >= len) {\n inCoord = sz2 - inCoord - 1.0;\n }\n }\n }\n return clamp(inCoord, 0.0, len - 1.0);\n } else if (uniforms.fillModeId == 3) {\n if (inCoord < 0.0) {\n if (len <= 1.0) {\n inCoord = 0.0;\n } else {\n let sz = len - 1.0;\n inCoord = inCoord + len * (f32(i32(f32(-inCoord / sz))) + 1.0);\n }\n } else if (inCoord > len - 1.0) {\n if (len <= 1.0) {\n inCoord = 0.0;\n } else {\n let sz = len - 1.0;\n inCoord = inCoord - len * f32(i32(f32(inCoord / sz)));\n }\n }\n return clamp(inCoord, 0.0, len - 1.0);\n } else if (uniforms.fillModeId == 4) {\n return clamp(outCoord, 0.0, len - 1.0);\n }\n return outCoord;\n }\n fn readWithFillValue(batch : i32, coordY : i32, coordX : i32,\n channel : i32) -> f32 {\n var outputValue : f32;\n if (0 <= coordY && coordY < uniforms.imageShape[1] && 0 <= coordX && coordX < uniforms.imageShape[2]) {\n outputValue = getImage(batch, coordY, coordX, channel);\n } else {\n outputValue = uniforms.fillValue;\n }\n return outputValue;\n }\n\n ${", "getMainHeaderAndGlobalIndexString", "(", ")", "}\n if (index < uniforms.size) {\n let coords = getCoordsFromIndex(index);\n var outputValue : f32;\n let batch = coords[0];\n let x = coords[2];\n let y = coords[1];\n let channel = coords[3];\n let xf = f32(x);\n let yf = f32(y);\n let a1 = getTransforms(batch, 0);\n let a2 = getTransforms(batch, 1);\n let a3 = getTransforms(batch, 2);\n let b1 = getTransforms(batch, 3);\n let b2 = getTransforms(batch, 4);\n let b3 = getTransforms(batch, 5);\n let c1 = getTransforms(batch, 6);\n let c2 = getTransforms(batch, 7);\n let projection = c1 * xf + c2 * yf + 1.0;\n if (projection == 0.0) {\n outputValue = uniforms.fillValue;\n } else {\n let inX = (a1 * xf + a2 * yf + a3) / projection;\n let inY = (b1 * xf + b2 * yf + b3) / projection;\n let mapX = mapCoord(inX, f32(uniforms.imageShape[2]));\n let mapY = mapCoord(inY, f32(uniforms.imageShape[1]));\n\n if (uniforms.interpolationModeId == 1) {\n let coordY = i32(round(mapY));\n let coordX = i32(round(mapX));\n outputValue = readWithFillValue(batch, coordY, coordX,\n channel);\n } else {\n let yFloor = floor(mapY);\n let xFloor = floor(mapX);\n let yCeil = yFloor + 1.0;\n let xCeil = xFloor + 1.0;\n let valueYFloor = (xCeil - mapX) *\n readWithFillValue(batch, i32(yFloor), i32(xFloor), channel) +\n (mapX - xFloor) *\n readWithFillValue(batch, i32(yFloor), i32(xCeil), channel);\n let valueYCeil = (xCeil - mapX) *\n readWithFillValue(batch, i32(yCeil), i32(xFloor), channel) +\n (mapX - xFloor) *\n readWithFillValue(batch, i32(yCeil), i32(xCeil), channel);\n outputValue = (yCeil - mapY) * valueYFloor +\n (mapY - yFloor) * valueYCeil;\n }\n }\n setOutputAtIndex(index, outputValue);\n }\n }\n `", ";", "return", "userCode", ";", "}", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null ]
658187
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", ",", "Transform", ",", "TransformAttrs", ",", "TransformInputs", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "TransformProgram", "}", "from", "'../transform_webgpu'", ";", "export", "function", "transform", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "image", ",", "transforms", "}", "=", "inputs", ";", "const", "{", "interpolation", ",", "fillMode", ",", "fillValue", ",", "outputShape", "}", "=", "attrs", ";", "const", "[", "batch", ",", "imageHeight", ",", "imageWidth", ",", "numChannels", "]", "=", "image", ".", "shape", ";", "const", "[", "outHeight", ",", "outWidth", "]", "=", "outputShape", "!=", "null", "?", "outputShape", ":", "[", "imageHeight", ",", "imageWidth", "]", ";", "const", "outShape", "=", "[", "batch", ",", "outHeight", ",", "outWidth", ",", "numChannels", "]", "as", "[", "number", ",", "number", ",", "number", ",", "number", "]", ";", "const", "program", "=", "new", "TransformProgram", "(", "outShape", ")", ";", "const", "interpolationModeId", "=", "interpolation", "===", "'nearest'", "?", "1", ":", "2", ";", "let", "fillModeId", ";", "switch", "(", "fillMode", ")", "{", "case", "'constant'", ":", "fillModeId", "=", "1", ";", "break", ";", "case", "'reflect'", ":", "fillModeId", "=", "2", ";", "break", ";", "case", "'wrap'", ":", "fillModeId", "=", "3", ";", "break", ";", "case", "'nearest'", ":", "fillModeId", "=", "4", ";", "break", ";", "default", ":", "fillModeId", "=", "1", ";", "break", ";", "}", "const", "uniformData", "=", "[", "{", "type", ":", "'int32'", ",", "data", ":", "[", "interpolationModeId", "]", "}", ",", "{", "type", ":", "'int32'", ",", "data", ":", "[", "fillModeId", "]", "}", ",", "{", "type", ":", "'float32'", ",", "data", ":", "[", "fillValue", "]", "}", "]", ";", "return", "backend", ".", "runWebGPUProgram", "(", "program", ",", "[", "image", ",", "transforms", "]", ",", "'float32'", ",", "uniformData", ")", ";", "}", "export", "const", "transformConfig", "=", "{", "kernelName", ":", "Transform", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "transform", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 394, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658188
[ "license", "import", "{", "KernelConfig", ",", "KernelFunc", ",", "TensorInfo", ",", "Unpack", ",", "UnpackAttrs", ",", "UnpackInputs", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'../backend_webgpu'", ";", "import", "{", "reshape", "}", "from", "'./Reshape'", ";", "import", "{", "slice", "}", "from", "'./Slice'", ";", "export", "function", "unpack", "(", "args", ")", "{", "const", "{", "inputs", ",", "backend", ",", "attrs", "}", "=", "args", ";", "const", "{", "value", "}", "=", "inputs", ";", "let", "{", "axis", "}", "=", "attrs", ";", "if", "(", "axis", "<", "0", ")", "{", "axis", "+=", "value", ".", "shape", ".", "length", ";", "}", "const", "x", "=", "value", ";", "const", "xRank", "=", "x", ".", "shape", ".", "length", ";", "const", "num", "=", "value", ".", "shape", "[", "axis", "]", ";", "const", "outShape", "=", "new", "Array", "(", "xRank", "-", "1", ")", ";", "let", "outIndex", "=", "0", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "xRank", ";", "i", "++", ")", "{", "if", "(", "i", "!==", "axis", ")", "{", "outShape", "[", "outIndex", "++", "]", "=", "x", ".", "shape", "[", "i", "]", ";", "}", "}", "const", "toDispose", "=", "[", "]", ";", "const", "begin", "=", "new", "Array", "(", "xRank", ")", ".", "fill", "(", "0", ")", ";", "const", "size", "=", "x", ".", "shape", ".", "slice", "(", ")", ";", "size", "[", "axis", "]", "=", "1", ";", "const", "res", "=", "new", "Array", "(", "num", ")", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "res", ".", "length", ";", "i", "++", ")", "{", "begin", "[", "axis", "]", "=", "i", ";", "const", "sliced", "=", "slice", "(", "{", "inputs", ":", "{", "x", "}", ",", "backend", ",", "attrs", ":", "{", "begin", ",", "size", "}", "}", ")", ";", "const", "reshaped", "=", "reshape", "(", "{", "inputs", ":", "{", "x", ":", "sliced", "}", ",", "backend", ",", "attrs", ":", "{", "shape", ":", "outShape", "}", "}", ")", ";", "res", "[", "i", "]", "=", "reshaped", ";", "toDispose", ".", "push", "(", "sliced", ")", ";", "}", "toDispose", ".", "forEach", "(", "t", "=>", "backend", ".", "disposeData", "(", "t", ".", "dataId", ")", ")", ";", "return", "res", ";", "}", "export", "const", "unpackConfig", "=", "{", "kernelName", ":", "Unpack", ",", "backendName", ":", "'webgpu'", ",", "kernelFunc", ":", "unpack", "as", "{", "}", "as", "KernelFunc", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 268, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658189
[ "license", "import", "{", "KernelConfig", ",", "registerKernel", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "_fusedMatMulConfig", "}", "from", "'./kernels/_FusedMatMul'", ";", "import", "{", "absConfig", "}", "from", "'./kernels/Abs'", ";", "import", "{", "addConfig", "}", "from", "'./kernels/Add'", ";", "import", "{", "addNConfig", "}", "from", "'./kernels/AddN'", ";", "import", "{", "argMaxConfig", "}", "from", "'./kernels/ArgMax'", ";", "import", "{", "argMinConfig", "}", "from", "'./kernels/ArgMin'", ";", "import", "{", "avgPoolConfig", "}", "from", "'./kernels/AvgPool'", ";", "import", "{", "batchMatMulConfig", "}", "from", "'./kernels/BatchMatMul'", ";", "import", "{", "batchToSpaceNDConfig", "}", "from", "'./kernels/BatchToSpaceND'", ";", "import", "{", "castConfig", "}", "from", "'./kernels/Cast'", ";", "import", "{", "ceilConfig", "}", "from", "'./kernels/Ceil'", ";", "import", "{", "clipByValueConfig", "}", "from", "'./kernels/ClipByValue'", ";", "import", "{", "complexConfig", "}", "from", "'./kernels/Complex'", ";", "import", "{", "concatConfig", "}", "from", "'./kernels/Concat'", ";", "import", "{", "conv2DConfig", "}", "from", "'./kernels/Conv2D'", ";", "import", "{", "conv2DBackpropInputConfig", "}", "from", "'./kernels/Conv2DBackpropInput'", ";", "import", "{", "cosConfig", "}", "from", "'./kernels/Cos'", ";", "import", "{", "coshConfig", "}", "from", "'./kernels/Cosh'", ";", "import", "{", "cropAndResizeConfig", "}", "from", "'./kernels/CropAndResize'", ";", "import", "{", "depthToSpaceConfig", "}", "from", "'./kernels/DepthToSpace'", ";", "import", "{", "depthwiseConv2dNativeConfig", "}", "from", "'./kernels/DepthwiseConv2dNative'", ";", "import", "{", "einsumConfig", "}", "from", "'./kernels/Einsum'", ";", "import", "{", "eluConfig", "}", "from", "'./kernels/Elu'", ";", "import", "{", "equalConfig", "}", "from", "'./kernels/Equal'", ";", "import", "{", "expConfig", "}", "from", "'./kernels/Exp'", ";", "import", "{", "expandDimsConfig", "}", "from", "'./kernels/ExpandDims'", ";", "import", "{", "expm1Config", "}", "from", "'./kernels/Expm1'", ";", "import", "{", "fillConfig", "}", "from", "'./kernels/Fill'", ";", "import", "{", "flipLeftRightConfig", "}", "from", "'./kernels/FlipLeftRight'", ";", "import", "{", "floorConfig", "}", "from", "'./kernels/Floor'", ";", "import", "{", "floorDivConfig", "}", "from", "'./kernels/FloorDiv'", ";", "import", "{", "fromPixelsConfig", "}", "from", "'./kernels/FromPixels'", ";", "import", "{", "fusedBatchNormConfig", "}", "from", "'./kernels/FusedBatchNorm'", ";", "import", "{", "fusedConv2DConfig", "}", "from", "'./kernels/FusedConv2D'", ";", "import", "{", "fusedDepthwiseConv2DConfig", "}", "from", "'./kernels/FusedDepthwiseConv2D'", ";", "import", "{", "gatherNdConfig", "}", "from", "'./kernels/GatherNd'", ";", "import", "{", "gatherV2Config", "}", "from", "'./kernels/GatherV2'", ";", "import", "{", "greaterConfig", "}", "from", "'./kernels/Greater'", ";", "import", "{", "greaterEqualConfig", "}", "from", "'./kernels/GreaterEqual'", ";", "import", "{", "identityConfig", "}", "from", "'./kernels/Identity'", ";", "import", "{", "imagConfig", "}", "from", "'./kernels/Imag'", ";", "import", "{", "leakyReluConfig", "}", "from", "'./kernels/LeakyRelu'", ";", "import", "{", "lessConfig", "}", "from", "'./kernels/Less'", ";", "import", "{", "lessEqualConfig", "}", "from", "'./kernels/LessEqual'", ";", "import", "{", "logConfig", "}", "from", "'./kernels/Log'", ";", "import", "{", "logicalAndConfig", "}", "from", "'./kernels/LogicalAnd'", ";", "import", "{", "logicalNotConfig", "}", "from", "'./kernels/LogicalNot'", ";", "import", "{", "maxConfig", "}", "from", "'./kernels/Max'", ";", "import", "{", "maximumConfig", "}", "from", "'./kernels/Maximum'", ";", "import", "{", "maxPoolConfig", "}", "from", "'./kernels/MaxPool'", ";", "import", "{", "meanConfig", "}", "from", "'./kernels/Mean'", ";", "import", "{", "minConfig", "}", "from", "'./kernels/Min'", ";", "import", "{", "minimumConfig", "}", "from", "'./kernels/Minimum'", ";", "import", "{", "mirrorPadConfig", "}", "from", "'./kernels/MirrorPad'", ";", "import", "{", "multiplyConfig", "}", "from", "'./kernels/Multiply'", ";", "import", "{", "negConfig", "}", "from", "'./kernels/Neg'", ";", "import", "{", "nonMaxSuppressionV3Config", "}", "from", "'./kernels/NonMaxSuppressionV3'", ";", "import", "{", "nonMaxSuppressionV5Config", "}", "from", "'./kernels/NonMaxSuppressionV5'", ";", "import", "{", "notEqualConfig", "}", "from", "'./kernels/NotEqual'", ";", "import", "{", "onesLikeConfig", "}", "from", "'./kernels/OnesLike'", ";", "import", "{", "packConfig", "}", "from", "'./kernels/Pack'", ";", "import", "{", "padV2Config", "}", "from", "'./kernels/PadV2'", ";", "import", "{", "powConfig", "}", "from", "'./kernels/Pow'", ";", "import", "{", "preluConfig", "}", "from", "'./kernels/Prelu'", ";", "import", "{", "prodConfig", "}", "from", "'./kernels/Prod'", ";", "import", "{", "rangeConfig", "}", "from", "'./kernels/Range'", ";", "import", "{", "realConfig", "}", "from", "'./kernels/Real'", ";", "import", "{", "realDivConfig", "}", "from", "'./kernels/RealDiv'", ";", "import", "{", "reluConfig", "}", "from", "'./kernels/Relu'", ";", "import", "{", "relu6Config", "}", "from", "'./kernels/Relu6'", ";", "import", "{", "reshapeConfig", "}", "from", "'./kernels/Reshape'", ";", "import", "{", "resizeBilinearConfig", "}", "from", "'./kernels/ResizeBilinear'", ";", "import", "{", "resizeNearestNeighborConfig", "}", "from", "'./kernels/ResizeNearestNeighbor'", ";", "import", "{", "rotateWithOffsetConfig", "}", "from", "'./kernels/RotateWithOffset'", ";", "import", "{", "rsqrtConfig", "}", "from", "'./kernels/Rsqrt'", ";", "import", "{", "scatterNdConfig", "}", "from", "'./kernels/ScatterNd'", ";", "import", "{", "selectConfig", "}", "from", "'./kernels/Select'", ";", "import", "{", "sigmoidConfig", "}", "from", "'./kernels/Sigmoid'", ";", "import", "{", "sinConfig", "}", "from", "'./kernels/Sin'", ";", "import", "{", "sinhConfig", "}", "from", "'./kernels/Sinh'", ";", "import", "{", "sliceConfig", "}", "from", "'./kernels/Slice'", ";", "import", "{", "softmaxConfig", "}", "from", "'./kernels/Softmax'", ";", "import", "{", "spaceToBatchNDConfig", "}", "from", "'./kernels/SpaceToBatchND'", ";", "import", "{", "sparseToDenseConfig", "}", "from", "'./kernels/SparseToDense'", ";", "import", "{", "splitVConfig", "}", "from", "'./kernels/SplitV'", ";", "import", "{", "sqrtConfig", "}", "from", "'./kernels/Sqrt'", ";", "import", "{", "squareConfig", "}", "from", "'./kernels/Square'", ";", "import", "{", "squaredDifferenceConfig", "}", "from", "'./kernels/SquaredDifference'", ";", "import", "{", "stridedSliceConfig", "}", "from", "'./kernels/StridedSlice'", ";", "import", "{", "stringNGramsConfig", "}", "from", "'./kernels/StringNGrams'", ";", "import", "{", "subConfig", "}", "from", "'./kernels/Sub'", ";", "import", "{", "sumConfig", "}", "from", "'./kernels/Sum'", ";", "import", "{", "tanhConfig", "}", "from", "'./kernels/Tanh'", ";", "import", "{", "tileConfig", "}", "from", "'./kernels/Tile'", ";", "import", "{", "topKConfig", "}", "from", "'./kernels/TopK'", ";", "import", "{", "transformConfig", "}", "from", "'./kernels/Transform'", ";", "import", "{", "transposeConfig", "}", "from", "'./kernels/Transpose'", ";", "import", "{", "unpackConfig", "}", "from", "'./kernels/Unpack'", ";", "import", "{", "zerosLikeConfig", "}", "from", "'./kernels/ZerosLike'", ";", "const", "kernelConfigs", "=", "[", "_fusedMatMulConfig", ",", "absConfig", ",", "addConfig", ",", "addNConfig", ",", "argMaxConfig", ",", "argMinConfig", ",", "avgPoolConfig", ",", "batchMatMulConfig", ",", "batchToSpaceNDConfig", ",", "castConfig", ",", "ceilConfig", ",", "clipByValueConfig", ",", "complexConfig", ",", "concatConfig", ",", "conv2DConfig", ",", "conv2DBackpropInputConfig", ",", "cosConfig", ",", "coshConfig", ",", "cropAndResizeConfig", ",", "depthToSpaceConfig", ",", "depthwiseConv2dNativeConfig", ",", "einsumConfig", ",", "eluConfig", ",", "equalConfig", ",", "expConfig", ",", "expandDimsConfig", ",", "expm1Config", ",", "fillConfig", ",", "flipLeftRightConfig", ",", "fromPixelsConfig", ",", "floorConfig", ",", "floorDivConfig", ",", "fusedBatchNormConfig", ",", "fusedConv2DConfig", ",", "fusedDepthwiseConv2DConfig", ",", "gatherNdConfig", ",", "gatherV2Config", ",", "greaterConfig", ",", "greaterEqualConfig", ",", "identityConfig", ",", "imagConfig", ",", "leakyReluConfig", ",", "lessConfig", ",", "lessEqualConfig", ",", "logConfig", ",", "logicalAndConfig", ",", "logicalNotConfig", ",", "maxConfig", ",", "maximumConfig", ",", "maxPoolConfig", ",", "meanConfig", ",", "minConfig", ",", "minimumConfig", ",", "mirrorPadConfig", ",", "multiplyConfig", ",", "negConfig", ",", "nonMaxSuppressionV3Config", ",", "nonMaxSuppressionV5Config", ",", "notEqualConfig", ",", "onesLikeConfig", ",", "packConfig", ",", "padV2Config", ",", "powConfig", ",", "preluConfig", ",", "prodConfig", ",", "rangeConfig", ",", "realConfig", ",", "realDivConfig", ",", "reluConfig", ",", "relu6Config", ",", "reshapeConfig", ",", "resizeBilinearConfig", ",", "resizeNearestNeighborConfig", ",", "rotateWithOffsetConfig", ",", "rsqrtConfig", ",", "scatterNdConfig", ",", "selectConfig", ",", "sigmoidConfig", ",", "sinConfig", ",", "sinhConfig", ",", "sliceConfig", ",", "stridedSliceConfig", ",", "stringNGramsConfig", ",", "softmaxConfig", ",", "spaceToBatchNDConfig", ",", "sparseToDenseConfig", ",", "splitVConfig", ",", "sqrtConfig", ",", "squareConfig", ",", "squaredDifferenceConfig", ",", "subConfig", ",", "sumConfig", ",", "tanhConfig", ",", "tileConfig", ",", "topKConfig", ",", "transformConfig", ",", "transposeConfig", ",", "unpackConfig", ",", "zerosLikeConfig", "]", ";", "for", "(", "const", "kernelConfig", "of", "kernelConfigs", ")", "{", "registerKernel", "(", "kernelConfig", ")", ";", "}" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658190
[ "license", "import", "'./flags_webgpu'", ";", "import", "'./register_all_kernels'", ";", "import", "{", "device_util", ",", "env", ",", "registerBackend", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "WebGPUBackend", "}", "from", "'./backend_webgpu'", ";", "import", "*", "as", "webgpu", "from", "'./webgpu'", ";", "import", "{", "isWebGPUSupported", "}", "from", "'./webgpu_util'", ";", "if", "(", "device_util", ".", "isBrowser", "(", ")", "&&", "isWebGPUSupported", "(", ")", ")", "{", "registerBackend", "(", "'webgpu'", ",", "async", "(", ")", "=>", "{", "env", "(", ")", ".", "set", "(", "'CHECK_COMPUTATION_FOR_ERRORS'", ",", "false", ")", ";", "const", "gpuDescriptor", "=", "{", "powerPreference", ":", "env", "(", ")", ".", "get", "(", "'WEBGPU_USE_LOW_POWER_GPU'", ")", "?", "'low-power'", ":", "'high-performance'", "}", ";", "const", "adapter", "=", "await", "navigator", ".", "gpu", ".", "requestAdapter", "(", "gpuDescriptor", ")", ";", "let", "deviceDescriptor", "=", "{", "}", ";", "const", "supportTimeQuery", "=", "adapter", ".", "features", ".", "has", "(", "'timestamp-query'", ")", ";", "if", "(", "supportTimeQuery", ")", "{", "deviceDescriptor", "=", "{", "requiredFeatures", ":", "[", "'timestamp-query'", "as", "const", "]", "}", ";", "}", "else", "{", "console", ".", "warn", "(", "`This device doesn't support timestamp-query extension. `", "+", "`Start Chrome browser with flag `", "+", "`--disable-dawn-features=disallow_unsafe_apis then try again. `", "+", "`Or zero will shown for the kernel time when profiling mode is`", "+", "`enabled. Using performance.now is not workable for webgpu since`", "+", "`it doesn't support synchronously to read data from GPU.`", ")", ";", "}", "const", "device", "=", "await", "adapter", ".", "requestDevice", "(", "deviceDescriptor", ")", ";", "return", "new", "WebGPUBackend", "(", "device", ",", "supportTimeQuery", ")", ";", "}", ",", "3", ")", ";", "}", "export", "{", "webgpu", "}", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 43806, null, null, null, null, null, null, null, null, null, null, null, null, 0, null, null, null, null, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 10611, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658191
[ "license", "import", "*", "as", "tf", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "test_util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "describeWebGPU", "}", "from", "'./test_util'", ";", "describeWebGPU", "(", "'matmul'", ",", "(", ")", "=>", "{", "it", "(", "'it works in delayed mode.'", ",", "async", "(", ")", "=>", "{", "const", "savedFlag", "=", "tf", ".", "env", "(", ")", ".", "get", "(", "'WEBGPU_DEFERRED_SUBMIT_BATCH_SIZE'", ")", ";", "tf", ".", "env", "(", ")", ".", "set", "(", "'WEBGPU_DEFERRED_SUBMIT_BATCH_SIZE'", ",", "15", ")", ";", "const", "a", "=", "tf", ".", "tensor2d", "(", "[", "1", ",", "2", ",", "3", ",", "4", "]", ",", "[", "2", ",", "2", "]", ")", ";", "const", "b", "=", "tf", ".", "tensor2d", "(", "[", "1", ",", "2", ",", "3", ",", "4", ",", "5", ",", "6", "]", ",", "[", "2", ",", "3", "]", ")", ";", "const", "c", "=", "tf", ".", "matMul", "(", "a", ",", "b", ")", ";", "const", "f", "=", "tf", ".", "tensor2d", "(", "[", "0", ",", "1", ",", "0.5", ",", "0", ",", "0.25", ",", "2", "]", ",", "[", "2", ",", "3", "]", ")", ";", "const", "d", "=", "tf", ".", "mul", "(", "c", ",", "f", ")", ";", "const", "dData", "=", "await", "d", ".", "data", "(", ")", ";", "test_util", ".", "expectArraysClose", "(", "dData", ",", "new", "Float32Array", "(", "[", "0", ",", "12", ",", "7.5", ",", "0", ",", "6.5", ",", "66", "]", ")", ")", ";", "tf", ".", "env", "(", ")", ".", "set", "(", "'WEBGPU_DEFERRED_SUBMIT_BATCH_SIZE'", ",", "savedFlag", ")", ";", "}", ")", ";", "it", "(", "'it works in immediate mode.'", ",", "async", "(", ")", "=>", "{", "const", "savedFlag", "=", "tf", ".", "env", "(", ")", ".", "get", "(", "'WEBGPU_DEFERRED_SUBMIT_BATCH_SIZE'", ")", ";", "tf", ".", "env", "(", ")", ".", "set", "(", "'WEBGPU_DEFERRED_SUBMIT_BATCH_SIZE'", ",", "1", ")", ";", "const", "a", "=", "tf", ".", "tensor2d", "(", "[", "1", ",", "2", ",", "3", ",", "4", "]", ",", "[", "2", ",", "2", "]", ")", ";", "const", "b", "=", "tf", ".", "tensor2d", "(", "[", "1", ",", "2", ",", "3", ",", "4", ",", "5", ",", "6", "]", ",", "[", "2", ",", "3", "]", ")", ";", "const", "c", "=", "tf", ".", "matMul", "(", "a", ",", "b", ")", ";", "const", "f", "=", "tf", ".", "tensor2d", "(", "[", "0", ",", "1", ",", "0.5", ",", "0", ",", "0.25", ",", "2", "]", ",", "[", "2", ",", "3", "]", ")", ";", "const", "d", "=", "tf", ".", "mul", "(", "c", ",", "f", ")", ";", "const", "dData", "=", "await", "d", ".", "data", "(", ")", ";", "test_util", ".", "expectArraysClose", "(", "dData", ",", "new", "Float32Array", "(", "[", "0", ",", "12", ",", "7.5", ",", "0", ",", "6.5", ",", "66", "]", ")", ")", ";", "tf", ".", "env", "(", ")", ".", "set", "(", "'WEBGPU_DEFERRED_SUBMIT_BATCH_SIZE'", ",", "savedFlag", ")", ";", "}", ")", ";", "it", "(", "'matMul works when we do not check coords because tiles fit perfectly into input dimensions'", ",", "async", "(", ")", "=>", "{", "const", "inputData", "=", "[", "0", ",", "1", ",", "2", ",", "3", ",", "4", ",", "5", ",", "6", ",", "7", ",", "8", ",", "9", ",", "10", ",", "11", ",", "12", ",", "13", ",", "14", ",", "15", ",", "16", ",", "17", ",", "18", ",", "19", ",", "20", ",", "21", ",", "22", ",", "23", ",", "24", ",", "25", ",", "26", ",", "27", ",", "28", ",", "29", ",", "30", ",", "31", ",", "32", ",", "33", ",", "34", ",", "35", ",", "36", ",", "37", ",", "38", ",", "39", ",", "40", ",", "41", ",", "42", ",", "43", ",", "44", ",", "45", ",", "46", ",", "47", ",", "48", ",", "49", ",", "50", ",", "51", ",", "52", ",", "53", ",", "54", ",", "55", ",", "56", ",", "57", ",", "58", ",", "59", ",", "60", ",", "61", ",", "62", ",", "63", ",", "64", ",", "65", ",", "66", ",", "67", ",", "68", ",", "69", ",", "70", ",", "71", ",", "72", ",", "73", ",", "74", ",", "75", ",", "76", ",", "77", ",", "78", ",", "79", ",", "80", ",", "81", ",", "82", ",", "83", ",", "84", ",", "85", ",", "86", ",", "87", ",", "88", ",", "89", ",", "90", ",", "91", ",", "92", ",", "93", ",", "94", ",", "95", ",", "96", ",", "97", ",", "98", ",", "99", ",", "100", ",", "101", ",", "102", ",", "103", ",", "104", ",", "105", ",", "106", ",", "107", ",", "108", ",", "109", ",", "110", ",", "111", ",", "112", ",", "113", ",", "114", ",", "115", ",", "116", ",", "117", ",", "118", ",", "119", ",", "120", ",", "121", ",", "122", ",", "123", ",", "124", ",", "125", ",", "126", ",", "127", ",", "128", ",", "129", ",", "130", ",", "131", ",", "132", ",", "133", ",", "134", ",", "135", ",", "136", ",", "137", ",", "138", ",", "139", ",", "140", ",", "141", ",", "142", ",", "143", ",", "144", ",", "145", ",", "146", ",", "147", ",", "148", ",", "149", ",", "150", ",", "151", ",", "152", ",", "153", ",", "154", ",", "155", ",", "156", ",", "157", ",", "158", ",", "159", ",", "160", ",", "161", ",", "162", ",", "163", ",", "164", ",", "165", ",", "166", ",", "167", ",", "168", ",", "169", ",", "170", ",", "171", ",", "172", ",", "173", ",", "174", ",", "175", ",", "176", ",", "177", ",", "178", ",", "179", ",", "180", ",", "181", ",", "182", ",", "183", ",", "184", ",", "185", ",", "186", ",", "187", ",", "188", ",", "189", ",", "190", ",", "191", ",", "192", ",", "193", ",", "194", ",", "195", ",", "196", ",", "197", ",", "198", ",", "199", ",", "200", ",", "201", ",", "202", ",", "203", ",", "204", ",", "205", ",", "206", ",", "207", ",", "208", ",", "209", ",", "210", ",", "211", ",", "212", ",", "213", ",", "214", ",", "215", ",", "216", ",", "217", ",", "218", ",", "219", ",", "220", ",", "221", ",", "222", ",", "223", ",", "224", ",", "225", ",", "226", ",", "227", ",", "228", ",", "229", ",", "230", ",", "231", ",", "232", ",", "233", ",", "234", ",", "235", ",", "236", ",", "237", ",", "238", ",", "239", ",", "240", ",", "241", ",", "242", ",", "243", ",", "244", ",", "245", ",", "246", ",", "247", ",", "248", ",", "249", ",", "250", ",", "251", ",", "252", ",", "253", ",", "254", ",", "255", "]", ";", "const", "a", "=", "tf", ".", "tensor2d", "(", "inputData", ",", "[", "16", ",", "16", "]", ")", ";", "const", "b", "=", "tf", ".", "tensor2d", "(", "inputData", ",", "[", "16", ",", "16", "]", ")", ";", "const", "expected", "=", "new", "Float32Array", "(", "[", "19840", ",", "19960", ",", "20080", ",", "20200", ",", "20320", ",", "20440", ",", "20560", ",", "20680", ",", "20800", ",", "20920", ",", "21040", ",", "21160", ",", "21280", ",", "21400", ",", "21520", ",", "21640", ",", "50560", ",", "50936", ",", "51312", ",", "51688", ",", "52064", ",", "52440", ",", "52816", ",", "53192", ",", "53568", ",", "53944", ",", "54320", ",", "54696", ",", "55072", ",", "55448", ",", "55824", ",", "56200", ",", "81280", ",", "81912", ",", "82544", ",", "83176", ",", "83808", ",", "84440", ",", "85072", ",", "85704", ",", "86336", ",", "86968", ",", "87600", ",", "88232", ",", "88864", ",", "89496", ",", "90128", ",", "90760", ",", "112000", ",", "112888", ",", "113776", ",", "114664", ",", "115552", ",", "116440", ",", "117328", ",", "118216", ",", "119104", ",", "119992", ",", "120880", ",", "121768", ",", "122656", ",", "123544", ",", "124432", ",", "125320", ",", "142720", ",", "143864", ",", "145008", ",", "146152", ",", "147296", ",", "148440", ",", "149584", ",", "150728", ",", "151872", ",", "153016", ",", "154160", ",", "155304", ",", "156448", ",", "157592", ",", "158736", ",", "159880", ",", "173440", ",", "174840", ",", "176240", ",", "177640", ",", "179040", ",", "180440", ",", "181840", ",", "183240", ",", "184640", ",", "186040", ",", "187440", ",", "188840", ",", "190240", ",", "191640", ",", "193040", ",", "194440", ",", "204160", ",", "205816", ",", "207472", ",", "209128", ",", "210784", ",", "212440", ",", "214096", ",", "215752", ",", "217408", ",", "219064", ",", "220720", ",", "222376", ",", "224032", ",", "225688", ",", "227344", ",", "229000", ",", "234880", ",", "236792", ",", "238704", ",", "240616", ",", "242528", ",", "244440", ",", "246352", ",", "248264", ",", "250176", ",", "252088", ",", "254000", ",", "255912", ",", "257824", ",", "259736", ",", "261648", ",", "263560", ",", "265600", ",", "267768", ",", "269936", ",", "272104", ",", "274272", ",", "276440", ",", "278608", ",", "280776", ",", "282944", ",", "285112", ",", "287280", ",", "289448", ",", "291616", ",", "293784", ",", "295952", ",", "298120", ",", "296320", ",", "298744", ",", "301168", ",", "303592", ",", "306016", ",", "308440", ",", "310864", ",", "313288", ",", "315712", ",", "318136", ",", "320560", ",", "322984", ",", "325408", ",", "327832", ",", "330256", ",", "332680", ",", "327040", ",", "329720", ",", "332400", ",", "335080", ",", "337760", ",", "340440", ",", "343120", ",", "345800", ",", "348480", ",", "351160", ",", "353840", ",", "356520", ",", "359200", ",", "361880", ",", "364560", ",", "367240", ",", "357760", ",", "360696", ",", "363632", ",", "366568", ",", "369504", ",", "372440", ",", "375376", ",", "378312", ",", "381248", ",", "384184", ",", "387120", ",", "390056", ",", "392992", ",", "395928", ",", "398864", ",", "401800", ",", "388480", ",", "391672", ",", "394864", ",", "398056", ",", "401248", ",", "404440", ",", "407632", ",", "410824", ",", "414016", ",", "417208", ",", "420400", ",", "423592", ",", "426784", ",", "429976", ",", "433168", ",", "436360", ",", "419200", ",", "422648", ",", "426096", ",", "429544", ",", "432992", ",", "436440", ",", "439888", ",", "443336", ",", "446784", ",", "450232", ",", "453680", ",", "457128", ",", "460576", ",", "464024", ",", "467472", ",", "470920", ",", "449920", ",", "453624", ",", "457328", ",", "461032", ",", "464736", ",", "468440", ",", "472144", ",", "475848", ",", "479552", ",", "483256", ",", "486960", ",", "490664", ",", "494368", ",", "498072", ",", "501776", ",", "505480", ",", "480640", ",", "484600", ",", "488560", ",", "492520", ",", "496480", ",", "500440", ",", "504400", ",", "508360", ",", "512320", ",", "516280", ",", "520240", ",", "524200", ",", "528160", ",", "532120", ",", "536080", ",", "540040", "]", ")", ";", "const", "c", "=", "tf", ".", "matMul", "(", "a", ",", "b", ")", ";", "const", "cData", "=", "await", "c", ".", "data", "(", ")", ";", "test_util", ".", "expectArraysClose", "(", "cData", ",", "expected", ")", ";", "}", ")", ";", "it", "(", "'matMul A x B multiple tiles'", ",", "async", "(", ")", "=>", "{", "const", "a", "=", "tf", ".", "tensor2d", "(", "[", "2", ",", "7", ",", "5", ",", "1", ",", "5", ",", "1", ",", "3", ",", "2", ",", "8", ",", "8", ",", "2", ",", "0", ",", "0", ",", "0", ",", "4", ",", "0", ",", "8", ",", "4", ",", "0", ",", "5", ",", "4", ",", "1", ",", "4", ",", "4", ",", "2", ",", "4", ",", "3", ",", "4", ",", "4", ",", "7", ",", "4", ",", "5", ",", "0", ",", "1", ",", "4", ",", "5", ",", "5", ",", "6", ",", "6", ",", "1", ",", "9", ",", "0", ",", "0", ",", "9", ",", "0", ",", "0", ",", "5", ",", "3", ",", "2", ",", "2", ",", "3", ",", "4", ",", "1", ",", "1", ",", "2", ",", "4", ",", "3", ",", "4", ",", "1", ",", "6", ",", "9", ",", "2", ",", "6", ",", "5", ",", "6", ",", "5", ",", "3", ",", "6", ",", "9", ",", "9", ",", "7", ",", "8", ",", "8", ",", "4", ",", "8", ",", "1", ",", "4", ",", "5", ",", "1", ",", "5", ",", "8", ",", "1", ",", "9", ",", "3", ",", "7", ",", "2", ",", "2", ",", "0", ",", "5", ",", "4", ",", "3", ",", "1", ",", "6", ",", "1", ",", "8", ",", "4", ",", "2", ",", "9", ",", "9", ",", "6", ",", "9", ",", "0", ",", "2", ",", "3", ",", "2", ",", "3", ",", "3", ",", "9", ",", "4", ",", "8", ",", "5", ",", "6", ",", "9", ",", "0", ",", "2", ",", "1", ",", "5", ",", "5", ",", "8", ",", "4", ",", "9", ",", "9", ",", "2", ",", "1", ",", "5", ",", "9", ",", "6", ",", "7", ",", "9", ",", "9", ",", "3", ",", "5", ",", "3", ",", "5", ",", "7", ",", "9", ",", "8", ",", "8", ",", "9", ",", "0", ",", "5", ",", "8", ",", "4", ",", "5", ",", "6", ",", "1", ",", "7", ",", "8", ",", "7", ",", "2", ",", "9", ",", "9", ",", "1", ",", "1", ",", "7", ",", "9", ",", "0", ",", "4", ",", "7", ",", "7", ",", "8", ",", "8", ",", "2", ",", "3", ",", "8", ",", "3", ",", "3", ",", "8", ",", "7", ",", "8", ",", "3", ",", "2", ",", "5", ",", "9", ",", "1", ",", "4", ",", "4", ",", "6", ",", "4", ",", "5", ",", "8", ",", "7", ",", "9", ",", "7", ",", "4", ",", "4", ",", "5", ",", "6", ",", "7", ",", "1", ",", "2", ",", "0", ",", "9", ",", "9", ",", "0", ",", "3", ",", "4", ",", "7", ",", "3", ",", "6", ",", "9", ",", "3", ",", "6", ",", "0", ",", "7", ",", "0", ",", "9", ",", "5", ",", "4", ",", "0", ",", "2", ",", "8", ",", "4", ",", "7", ",", "6", ",", "9", ",", "6", ",", "4", ",", "2", ",", "9", ",", "8", ",", "2", ",", "5", ",", "6", ",", "2", ",", "6", ",", "2", ",", "3", ",", "3", ",", "4", ",", "2", ",", "5", ",", "0", ",", "3", ",", "3", ",", "2", ",", "5", ",", "4", ",", "7", ",", "3", ",", "3", ",", "8", ",", "1", ",", "4", ",", "7", ",", "8", ",", "5", ",", "3", ",", "0", ",", "0", ",", "7", ",", "7", ",", "0", ",", "4", ",", "1", ",", "8", ",", "3", ",", "6", ",", "9", ",", "2", ",", "6", ",", "8", ",", "8", ",", "6", ",", "1", ",", "6", ",", "0", ",", "9", ",", "2", ",", "1", ",", "4", ",", "7", ",", "4", ",", "1", ",", "5", ",", "1", ",", "5", ",", "4", ",", "8", ",", "0", ",", "3", ",", "3", ",", "0", ",", "6", ",", "9", ",", "3", ",", "0", ",", "6", ",", "5", ",", "3", ",", "6", ",", "4", ",", "6", ",", "1", ",", "0", ",", "2", ",", "8", ",", "1", ",", "4", ",", "3", ",", "9", ",", "9", ",", "3", ",", "4", ",", "1", ",", "1", ",", "1", ",", "1", ",", "9", ",", "4", ",", "0", ",", "4", ",", "1", ",", "3", ",", "3", ",", "4", ",", "3", ",", "2", ",", "3", ",", "9", ",", "6", ",", "2", ",", "1", ",", "3", ",", "3", ",", "8", ",", "0", ",", "9", ",", "4", ",", "0", ",", "6", ",", "8", ",", "5", ",", "7", ",", "3", ",", "1", ",", "2", ",", "3", ",", "5", ",", "4", ",", "3", ",", "9", ",", "1", ",", "6", ",", "4", ",", "0", ",", "6", ",", "7", ",", "8", ",", "0", ",", "2", ",", "2", ",", "0", ",", "1", ",", "8", ",", "6", ",", "6", ",", "3", ",", "6", ",", "7", ",", "2", ",", "3", ",", "2", ",", "7", ",", "9", ",", "0", ",", "1", ",", "9", ",", "8", ",", "7", ",", "8", ",", "4", ",", "6", ",", "4", ",", "6", ",", "5", ",", "8", ",", "8", ",", "9", ",", "5", ",", "5", ",", "1", ",", "7", ",", "3", ",", "0", ",", "2", ",", "2", ",", "3", ",", "8", ",", "1", ",", "8", ",", "1", ",", "2", ",", "3", ",", "6", ",", "0", ",", "1", ",", "3", ",", "0", ",", "8", ",", "9", ",", "9", ",", "6", ",", "8", ",", "8", ",", "1", ",", "5", ",", "1", ",", "7", ",", "8", ",", "8", ",", "3", ",", "3", ",", "4", ",", "7", ",", "3", ",", "9", ",", "3", ",", "3", ",", "7", ",", "9", ",", "8", ",", "3", ",", "8", ",", "6", ",", "8", ",", "4", ",", "2", ",", "2", ",", "5", ",", "0", ",", "4", ",", "0", ",", "7", ",", "7", ",", "0", ",", "0", ",", "3", ",", "1", ",", "8", ",", "3", ",", "2", ",", "0", ",", "1", ",", "6", ",", "5", ",", "3", ",", "9", ",", "6", ",", "7", ",", "5", ",", "6", ",", "5", ",", "4", ",", "2", ",", "7", ",", "0", ",", "3", ",", "2", ",", "8", ",", "3", ",", "5", ",", "8", ",", "3", ",", "5", ",", "1", ",", "3", ",", "8", ",", "2", ",", "1", ",", "5", ",", "3", ",", "3", ",", "3", ",", "5", ",", "8", ",", "3", ",", "2", ",", "0", ",", "7", ",", "4", ",", "9", ",", "4", ",", "5", ",", "0", ",", "8", ",", "7", ",", "3", ",", "2", ",", "1", ",", "8", ",", "4", ",", "5", ",", "7", ",", "0", ",", "7", ",", "0", ",", "7", ",", "4", ",", "6", ",", "1", ",", "6", ",", "1", ",", "9", ",", "7", ",", "2", ",", "5", ",", "6", ",", "0", ",", "6", ",", "3", ",", "5", ",", "3", ",", "9", ",", "9", ",", "5", ",", "8", ",", "2", ",", "9", ",", "2", ",", "8", ",", "6", ",", "3", ",", "1", ",", "9", ",", "7", ",", "4", ",", "7", ",", "8", ",", "6", ",", "3", ",", "6", ",", "1", ",", "5", ",", "5", ",", "6", ",", "0", ",", "6", ",", "6", ",", "3", ",", "1", ",", "8", ",", "9", ",", "1", ",", "2", ",", "0", ",", "3", ",", "8", ",", "4", ",", "0", ",", "0", ",", "5", ",", "1", ",", "0", ",", "7", ",", "2", ",", "5", ",", "3", ",", "7", ",", "7", ",", "8", ",", "1", ",", "3", ",", "4", ",", "5", ",", "8", ",", "4", ",", "7", ",", "6", ",", "4", ",", "7", ",", "6", ",", "9", ",", "9", ",", "2", ",", "9", ",", "1", ",", "7", ",", "3", ",", "2", ",", "3", ",", "0", ",", "1", ",", "6", ",", "8", ",", "5", ",", "9", ",", "2", ",", "4", ",", "4", ",", "9", ",", "5", ",", "0", ",", "2", ",", "2", ",", "7", ",", "5", ",", "3", ",", "6", ",", "2", ",", "0", ",", "8", ",", "3", ",", "8", ",", "2", ",", "0", ",", "1", ",", "5", ",", "8", ",", "5", ",", "2", ",", "8", ",", "6", ",", "0", ",", "2", ",", "3", ",", "7", ",", "0", ",", "9", ",", "2", ",", "0", ",", "7", ",", "0", ",", "9", ",", "4", ",", "0", ",", "2", ",", "5", ",", "4", ",", "2", ",", "7", ",", "3", ",", "2", ",", "9", ",", "1", ",", "2", ",", "6", ",", "3", ",", "3", ",", "5", ",", "3", ",", "6", ",", "5", ",", "4", ",", "0", ",", "8", ",", "6", ",", "9", ",", "8", ",", "5", ",", "3", ",", "1", ",", "5", ",", "1", ",", "2", ",", "3", ",", "2", ",", "9", ",", "7", ",", "3", ",", "1", ",", "0", ",", "6", ",", "5", ",", "6", ",", "2", ",", "7", ",", "5", ",", "1", ",", "4", ",", "9", ",", "0", ",", "9", ",", "7", ",", "1", ",", "7", ",", "5", ",", "0", ",", "5", ",", "7", ",", "7", ",", "9", ",", "0", ",", "0", ",", "7", ",", "7", ",", "6", ",", "3", ",", "3", ",", "0", ",", "0", ",", "8", ",", "6", ",", "4", ",", "8", ",", "2", ",", "9", ",", "2", ",", "3", ",", "4", ",", "1", ",", "4", ",", "5", ",", "3", ",", "1", ",", "6", ",", "4", ",", "5", ",", "1", ",", "7", ",", "0", ",", "5", ",", "6", ",", "4", ",", "1", ",", "4", ",", "4", ",", "9", ",", "1", ",", "1", ",", "6", ",", "1", ",", "2", ",", "9", ",", "4", ",", "7", ",", "7", ",", "7", ",", "7", ",", "5", ",", "5", ",", "0", ",", "5", ",", "1", ",", "0", ",", "6", ",", "1", ",", "6", ",", "1", ",", "7", ",", "4", ",", "0", ",", "5", ",", "3", ",", "4", ",", "4", ",", "4", ",", "7", ",", "9", ",", "1", ",", "6", ",", "8", ",", "6", ",", "4", ",", "7", ",", "7", ",", "3", ",", "6", ",", "5", ",", "8", ",", "0", ",", "0", ",", "1", ",", "4", ",", "6", ",", "7", ",", "4", ",", "7", ",", "5", ",", "3", ",", "3", ",", "4", ",", "5", ",", "9", ",", "8", ",", "8", ",", "6", ",", "3", ",", "2", ",", "8", ",", "7", ",", "2", ",", "7", ",", "5", ",", "9", ",", "9", ",", "2", ",", "6", ",", "9", ",", "4", ",", "0", ",", "5", ",", "8", ",", "0", ",", "3", ",", "0", ",", "1", ",", "3", ",", "1", ",", "7", ",", "2", ",", "1", ",", "9", ",", "2", ",", "3", ",", "4", ",", "5", ",", "6", ",", "5", ",", "2", ",", "7", ",", "9", ",", "4", ",", "9", ",", "8", ",", "8", ",", "0", ",", "8", ",", "3", ",", "4", ",", "6", ",", "6", ",", "6", ",", "6", ",", "7", ",", "8", ",", "8", ",", "3", ",", "3", ",", "3", ",", "2", ",", "0", ",", "7", ",", "6", ",", "4", ",", "9", ",", "5", ",", "1", ",", "0", ",", "1", ",", "7", ",", "9", ",", "3", ",", "4", ",", "2", ",", "9", ",", "7", ",", "0", ",", "5", ",", "5", ",", "6", ",", "3", ",", "1", ",", "9", ",", "2", ",", "7", ",", "2", ",", "8", ",", "5", ",", "9", ",", "7", ",", "9", ",", "1", ",", "9", ",", "4", ",", "4", ",", "4", ",", "0", ",", "1", ",", "1", ",", "1", ",", "8", ",", "5", ",", "3", ",", "3", ",", "4", ",", "7", ",", "9", ",", "3", ",", "3", ",", "6", ",", "4", ",", "4", ",", "5", ",", "0", ",", "5", ",", "6", ",", "4", ",", "4", ",", "5", ",", "5", ",", "9", ",", "7", ",", "8", ",", "6", ",", "0", ",", "6", ",", "3", ",", "4", ",", "4", ",", "9", ",", "6", ",", "7", ",", "7", ",", "7", ",", "5", ",", "3", ",", "2", ",", "3", ",", "3", ",", "7", ",", "0", ",", "5", ",", "9", ",", "5", ",", "6", ",", "7", ",", "6", ",", "0", ",", "6", ",", "2", ",", "7", ",", "7", ",", "0", ",", "7", ",", "6", ",", "6", ",", "7", ",", "3", ",", "6", ",", "8", ",", "9", ",", "7", ",", "8", ",", "1", ",", "7", ",", "8", ",", "9", ",", "0", ",", "0", ",", "3", ",", "8", ",", "2", ",", "2", ",", "9", ",", "1", ",", "0", ",", "7", ",", "7", ",", "3", ",", "4", ",", "2", ",", "4", ",", "7", ",", "0", ",", "2", ",", "4", ",", "2", ",", "3", ",", "5", ",", "8", ",", "5", ",", "4", ",", "4", ",", "2", ",", "3", ",", "1", ",", "7", ",", "0", ",", "4", ",", "1", ",", "8", ",", "8", ",", "2", ",", "9", ",", "7", ",", "2", ",", "1", ",", "8", ",", "1", ",", "8", ",", "6", ",", "2", ",", "8", ",", "9", ",", "9", ",", "2", ",", "4", ",", "3", ",", "6", ",", "1", ",", "3", ",", "7", ",", "4", ",", "1", ",", "1", ",", "3", ",", "2", ",", "0", ",", "1", ",", "6", ",", "2", ",", "1", ",", "5", ",", "0", ",", "9", ",", "9", ",", "1", ",", "8", ",", "4", ",", "8", ",", "7", ",", "9", ",", "5", ",", "9", ",", "8", ",", "8", ",", "1", ",", "3", ",", "4", ",", "7", ",", "5", ",", "4", ",", "9", ",", "0", ",", "9", ",", "9", ",", "3", ",", "5", ",", "1", ",", "6", ",", "6", ",", "8", ",", "9", ",", "0", ",", "0", ",", "0", ",", "7", ",", "5", ",", "1", ",", "3", ",", "7", ",", "9", ",", "0", ",", "4", ",", "6", ",", "3", ",", "7", ",", "7", ",", "3", ",", "8", ",", "6", ",", "4", ",", "5", ",", "7", ",", "1", ",", "0", ",", "0", ",", "8", ",", "0", ",", "2", ",", "1", ",", "5", ",", "4", ",", "0", ",", "3", ",", "0", ",", "0", ",", "7", ",", "2", ",", "2", ",", "3", ",", "0", ",", "9", ",", "0", ",", "4", ",", "4", ",", "8", ",", "9", ",", "1", ",", "5", ",", "8", ",", "3", ",", "2", ",", "1", ",", "8", ",", "9", ",", "8", ",", "1", ",", "1", ",", "0", ",", "8", ",", "3", ",", "2", ",", "3", ",", "0", ",", "6", ",", "2", ",", "2", ",", "3", ",", "9", ",", "5", ",", "7", ",", "0", ",", "1", ",", "0", ",", "3", ",", "5", ",", "4", ",", "4", ",", "5", ",", "5", ",", "1", ",", "0", ",", "2", ",", "6", ",", "3", ",", "4", ",", "7", ",", "0", ",", "7", ",", "7", ",", "9", ",", "0", ",", "1", ",", "4", ",", "9", ",", "9", ",", "2", ",", "1", ",", "7", ",", "4", ",", "2", ",", "1", ",", "1", ",", "1", ",", "0", ",", "2", ",", "7", ",", "4", ",", "1", ",", "8", ",", "1", ",", "7", ",", "8", ",", "1", ",", "1", ",", "5", ",", "3", ",", "5", ",", "4", ",", "2", ",", "1", ",", "0", ",", "5", ",", "9", ",", "9", ",", "6", ",", "8", ",", "4", ",", "9", ",", "9", ",", "0", ",", "5", ",", "2", ",", "9", ",", "8", ",", "1", ",", "4", ",", "0", ",", "2", ",", "9", ",", "6", ",", "7", ",", "2", ",", "0", ",", "4", ",", "0", ",", "1", ",", "1", ",", "9", ",", "5", ",", "9", ",", "0", ",", "4", ",", "0", ",", "7", ",", "1", ",", "3", ",", "8", ",", "0", ",", "5", ",", "3", ",", "4", ",", "9", ",", "8", ",", "7", ",", "8", ",", "8", ",", "5", ",", "6", ",", "8", ",", "6", ",", "6", ",", "6", ",", "1", ",", "3", ",", "4", ",", "7", ",", "6", ",", "9", ",", "6", ",", "3", ",", "1", ",", "3", ",", "8", ",", "4", ",", "4", ",", "0", ",", "1", ",", "9", ",", "5", ",", "9", ",", "1", ",", "6", ",", "8", ",", "6", ",", "0", ",", "1", ",", "8", ",", "1", ",", "8", ",", "9", ",", "9", ",", "0", ",", "6", ",", "0", ",", "2", ",", "6", ",", "2", ",", "6", ",", "9", ",", "1", ",", "0", ",", "2", ",", "7", ",", "0", ",", "9", ",", "2", ",", "3", ",", "9", ",", "0", ",", "2", ",", "9", ",", "9", ",", "5", ",", "4", ",", "1", ",", "3", ",", "5", ",", "4", ",", "2", ",", "6", ",", "5", ",", "9", ",", "8", ",", "0", ",", "8", ",", "3", ",", "4", ",", "7", ",", "4", ",", "4", ",", "5", ",", "6", ",", "8", ",", "4", ",", "7", ",", "4", ",", "1", ",", "9", ",", "5", ",", "6", ",", "3", ",", "8", ",", "3", ",", "4", ",", "0", ",", "3", ",", "6", ",", "1", ",", "1", ",", "6", ",", "8", ",", "6", ",", "6", ",", "4", ",", "8", ",", "9", ",", "8", ",", "8", ",", "9", ",", "0", ",", "1", ",", "5", ",", "9", ",", "7", ",", "9", ",", "0", ",", "6", ",", "4", ",", "4", ",", "5", ",", "8", ",", "4", ",", "2", ",", "8", ",", "1", ",", "3", ",", "2", ",", "1", ",", "5", ",", "6", ",", "6", ",", "6", ",", "2", ",", "9", ",", "0", ",", "8", ",", "1", ",", "8", ",", "2", ",", "6", ",", "4", ",", "3", ",", "0", ",", "3", ",", "8", ",", "6", ",", "5", ",", "7", ",", "6", ",", "8", ",", "1", ",", "5", ",", "6", ",", "7", ",", "7", ",", "5", ",", "6", ",", "7", ",", "0", ",", "0", ",", "8", ",", "3", ",", "6", ",", "0", ",", "7", ",", "2", ",", "8", ",", "8", ",", "4", ",", "7", ",", "8", ",", "7", ",", "5", ",", "6", ",", "2", ",", "7", ",", "3", ",", "0", ",", "1", ",", "0", ",", "1", ",", "9", ",", "7", ",", "7", ",", "0", ",", "1", ",", "8", ",", "0", ",", "2", ",", "6", ",", "2", ",", "6", ",", "4", ",", "6", ",", "0", ",", "0", ",", "8", ",", "9", ",", "7", ",", "4", ",", "1", ",", "5", ",", "6", ",", "2", ",", "5", ",", "3", ",", "8", ",", "4", ",", "0", ",", "4", ",", "1", ",", "5", ",", "9", ",", "8", ",", "1", ",", "8", ",", "0", ",", "0", ",", "0", ",", "0", ",", "3", ",", "8", ",", "8", ",", "9", ",", "6", ",", "1", ",", "2", ",", "3", ",", "3", ",", "9", ",", "9", ",", "6", ",", "4", ",", "3", ",", "1", ",", "7", ",", "2", ",", "8", ",", "4", ",", "5", ",", "6", ",", "6", ",", "3", ",", "6", ",", "7", ",", "6", ",", "5", ",", "5", ",", "7", ",", "9", ",", "7", ",", "9", ",", "9", ",", "9", ",", "8", ",", "8", ",", "0", ",", "7", ",", "0", ",", "6", ",", "6", ",", "9", ",", "6", ",", "3", ",", "5", ",", "2", ",", "3", ",", "2", ",", "6", ",", "8", ",", "1", ",", "6", ",", "0", ",", "8", ",", "6", ",", "8", ",", "6", ",", "0", ",", "4", ",", "6", ",", "8", ",", "1", ",", "7", ",", "2", ",", "5", ",", "3", ",", "2", ",", "2", ",", "5", ",", "1", ",", "5", ",", "2", ",", "6", ",", "8", ",", "5", ",", "0", ",", "5", ",", "3", ",", "9", ",", "2", ",", "4", ",", "1", ",", "6", ",", "5", ",", "5", ",", "7", ",", "7", ",", "8", ",", "2", ",", "1", ",", "7", ",", "5", ",", "7", ",", "2", ",", "8", ",", "0", ",", "6", ",", "7", ",", "2", ",", "7", ",", "0", ",", "6", ",", "9", ",", "9", ",", "7", ",", "7", ",", "5", ",", "1", ",", "4", ",", "5", ",", "3", ",", "0", ",", "3", ",", "2", ",", "0", ",", "0", ",", "0", ",", "7", ",", "7", ",", "8", ",", "9", ",", "0", ",", "0", ",", "7", ",", "8", ",", "5", ",", "2", ",", "9", ",", "6", ",", "2", ",", "2", ",", "1", ",", "8", ",", "3", ",", "1", ",", "1", ",", "7", ",", "7", ",", "1", ",", "0", ",", "7", ",", "3", ",", "4", ",", "0", ",", "3", ",", "7", ",", "6", ",", "2", ",", "7", ",", "2", ",", "6", ",", "9", ",", "4", ",", "9", ",", "5", ",", "4", ",", "6", ",", "6", ",", "6", ",", "5", ",", "6", ",", "9", ",", "6", ",", "8", ",", "6", ",", "1", ",", "3", ",", "3", ",", "2", ",", "2", ",", "7", ",", "4", ",", "6", ",", "8", ",", "3", ",", "3", ",", "1", ",", "3", ",", "4", ",", "8", ",", "7", ",", "6", ",", "7", ",", "6", ",", "0", ",", "7", ",", "2", ",", "0", ",", "1", ",", "6", ",", "3", ",", "3", ",", "9", ",", "2", ",", "0", ",", "3", ",", "9", ",", "3", ",", "9", ",", "2", ",", "8", ",", "6", ",", "2", ",", "8", ",", "0", ",", "2", ",", "2", ",", "5", ",", "6", ",", "5", ",", "7", ",", "4", ",", "2", ",", "5", ",", "6", ",", "4", ",", "8", ",", "9", ",", "0", ",", "6", ",", "5", ",", "2", ",", "7", ",", "3", ",", "9", ",", "0", ",", "4", ",", "2", ",", "4", ",", "5", ",", "2", ",", "8", ",", "9", ",", "1", ",", "2", ",", "3", ",", "7", ",", "2", ",", "7", ",", "2", ",", "5", ",", "0", ",", "1", ",", "5", ",", "0", ",", "5", ",", "1", ",", "7", ",", "4", ",", "4", ",", "5", ",", "7", ",", "0", ",", "7", ",", "2", ",", "7", ",", "1", ",", "6", ",", "5", ",", "6", ",", "2", ",", "1", ",", "6", ",", "1", ",", "3", ",", "0", ",", "4", ",", "6", ",", "3", ",", "9", ",", "5", ",", "1", ",", "1", ",", "3", ",", "9", ",", "5", ",", "5", ",", "8", ",", "6", ",", "9", ",", "0", ",", "4", ",", "0", ",", "6", ",", "8", ",", "7", ",", "3", ",", "6", ",", "4", ",", "5", ",", "6", ",", "2", ",", "4", ",", "5", ",", "1", ",", "0", ",", "7", ",", "3", ",", "3", ",", "3", ",", "5", ",", "2", ",", "0", ",", "2", ",", "7", ",", "5", ",", "6", ",", "2", ",", "0", ",", "4", ",", "8", ",", "0", ",", "8", ",", "6", ",", "9", ",", "5", ",", "3", ",", "0", ",", "5", ",", "0", ",", "5", ",", "3", ",", "9", ",", "5", ",", "6", ",", "8", ",", "2", ",", "9", ",", "9", ",", "6", ",", "1", ",", "5", ",", "9", ",", "5", ",", "6", ",", "2", ",", "8", ",", "9", ",", "3", ",", "5", ",", "4", ",", "0", ",", "1", ",", "8", ",", "2", ",", "4", ",", "4", ",", "6", ",", "4", ",", "5", ",", "8", ",", "6", ",", "0", ",", "1", ",", "3", ",", "3", ",", "6", ",", "8", ",", "6", ",", "1", ",", "7", ",", "1", ",", "5", ",", "5", ",", "7", ",", "2", ",", "3", ",", "2", ",", "0", ",", "2", ",", "0", ",", "7", ",", "4", ",", "6", ",", "0", ",", "0", ",", "5", ",", "6", ",", "6", ",", "0", ",", "2", ",", "2", ",", "0", ",", "5", ",", "3", ",", "9", ",", "9", ",", "5", ",", "1", ",", "5", ",", "9", ",", "8", ",", "4", ",", "3", ",", "4", ",", "2", ",", "1", ",", "4", ",", "7", ",", "9", ",", "5", ",", "5", ",", "9", ",", "9", ",", "1", ",", "8", ",", "2", ",", "8", ",", "0", ",", "7", ",", "9", ",", "8", ",", "8", ",", "8", ",", "0", ",", "8", ",", "1", ",", "3", ",", "9", ",", "2", ",", "0", ",", "9", ",", "5", ",", "5", ",", "6", ",", "2", ",", "5", ",", "5", ",", "6", ",", "7", ",", "0", ",", "4", ",", "9", ",", "5", ",", "3", ",", "0", ",", "6", ",", "6", ",", "2", ",", "1", ",", "6", ",", "7", ",", "4", ",", "5", ",", "3", ",", "0", ",", "9", ",", "7", ",", "8", ",", "5", ",", "7", ",", "9", ",", "0", ",", "8", ",", "6", ",", "9", ",", "6", ",", "7", ",", "3", ",", "2", ",", "2", ",", "1", ",", "0", ",", "6", ",", "7", ",", "3", ",", "7", ",", "7", ",", "4", ",", "6", ",", "7", ",", "6", ",", "3", ",", "3", ",", "9", ",", "9", ",", "4", ",", "7", ",", "9", ",", "2", ",", "6", ",", "1", ",", "5", ",", "5", ",", "9", ",", "3", ",", "5", ",", "8", ",", "3", ",", "8", ",", "5", ",", "8", ",", "5", ",", "3", ",", "2", ",", "7", ",", "0", ",", "6", ",", "5", ",", "5", ",", "5", ",", "9", ",", "2", ",", "1", ",", "2", ",", "4", ",", "9", ",", "8", ",", "8", ",", "7", ",", "3", ",", "7", ",", "5", ",", "6", ",", "3", ",", "6", ",", "5", ",", "9", ",", "2", ",", "6", ",", "4", ",", "4", ",", "7", ",", "3", ",", "0", ",", "5", ",", "3", ",", "6", ",", "6", ",", "6", ",", "9", ",", "4", ",", "3", ",", "3", ",", "0", ",", "0", ",", "3", ",", "6", ",", "7", ",", "8", ",", "6", ",", "6", ",", "6", ",", "8", ",", "4", ",", "9", ",", "4", ",", "2", ",", "6", ",", "5", ",", "5", ",", "1", ",", "5", ",", "5", ",", "7", ",", "0", ",", "5", ",", "5", ",", "5", ",", "0", ",", "8", ",", "9", ",", "9", ",", "0", ",", "7", ",", "6", ",", "5", ",", "5", ",", "8", ",", "7", ",", "8", ",", "3", ",", "1", ",", "8", ",", "4", ",", "6", ",", "6", ",", "6", ",", "1", ",", "7", ",", "0", ",", "9", ",", "5", ",", "8", ",", "7", ",", "7", ",", "4", ",", "5", ",", "3", ",", "1", ",", "7", ",", "4", ",", "6", ",", "6", ",", "6", ",", "5", ",", "7", ",", "5", ",", "3", ",", "1", ",", "0", ",", "2", ",", "7", ",", "8", ",", "8", ",", "4", ",", "6", ",", "3", ",", "2", ",", "3", ",", "6", ",", "3", ",", "2", ",", "0", ",", "0", ",", "1", ",", "4", ",", "7", ",", "4", ",", "3", ",", "7", ",", "9", ",", "0", ",", "9", ",", "3", ",", "4", ",", "3", ",", "8", ",", "6", ",", "3", ",", "5", ",", "8", ",", "1", ",", "0", ",", "1", ",", "6", ",", "0", ",", "1", ",", "8", ",", "9", ",", "5", ",", "8", ",", "2", ",", "7", ",", "7", ",", "1", ",", "6", ",", "7", ",", "4", ",", "1", ",", "0", ",", "3", ",", "1", ",", "6", ",", "5", ",", "5", ",", "0", ",", "9", ",", "4", ",", "7", ",", "1", ",", "4", ",", "3", ",", "4", ",", "2", ",", "4", ",", "5", ",", "0", ",", "6", ",", "4", ",", "8", ",", "7", ",", "0", ",", "6", ",", "5", ",", "3", ",", "9", ",", "3", ",", "1", ",", "3", ",", "9", ",", "3", ",", "5", ",", "1", ",", "8", ",", "2", ",", "7", ",", "1", ",", "3", ",", "8", ",", "7", ",", "3", ",", "5", ",", "6", ",", "6", ",", "2", ",", "7", ",", "7", ",", "1", ",", "3", ",", "7", ",", "1", ",", "6", ",", "5", ",", "6", ",", "3", ",", "1", ",", "7", ",", "0", ",", "5", ",", "2", ",", "6", ",", "7", ",", "3", ",", "2", ",", "5", ",", "9", ",", "4", ",", "8", ",", "1", ",", "8", ",", "0", ",", "0", ",", "0", ",", "8", ",", "5", ",", "2", ",", "0", ",", "8", ",", "3", ",", "6", ",", "6", ",", "3", ",", "7", ",", "8", ",", "0", ",", "0", ",", "7", ",", "3", ",", "9", ",", "1", ",", "6", ",", "0", ",", "0", ",", "2", ",", "4", ",", "3", ",", "3", ",", "9", ",", "0", ",", "8", ",", "3", ",", "3", ",", "9", ",", "5", ",", "4", ",", "5", ",", "3", ",", "8", ",", "4", ",", "7", ",", "2", ",", "2", ",", "9", ",", "9", ",", "7", ",", "6", ",", "4", ",", "4", ",", "4", ",", "5", ",", "2", ",", "6", ",", "3", ",", "9", ",", "5", ",", "3", ",", "5", ",", "8", ",", "2", ",", "9", ",", "9", ",", "4", ",", "4", ",", "7", ",", "3", ",", "3", ",", "9", ",", "0", ",", "3", ",", "3", ",", "3", ",", "5", ",", "5", ",", "8", ",", "3", ",", "9", ",", "2", ",", "0", ",", "9", ",", "3", ",", "6", ",", "8", ",", "0", ",", "2", ",", "6", ",", "0", ",", "6", ",", "6", ",", "0", ",", "5", ",", "9", ",", "6", ",", "5", ",", "7", ",", "0", ",", "4", ",", "3", ",", "1", ",", "9", ",", "6", ",", "4", ",", "0", ",", "6", ",", "6", ",", "7", ",", "3", ",", "7", ",", "9", ",", "7", ",", "7", ",", "3", ",", "1", ",", "4", ",", "2", ",", "9", ",", "9", ",", "5", ",", "5", ",", "3", ",", "3", ",", "1", ",", "8", ",", "2", ",", "0", ",", "5", ",", "7", ",", "4", ",", "9", ",", "3", ",", "3", ",", "0", ",", "5", ",", "7", ",", "0", ",", "9", ",", "0", ",", "9", ",", "9", ",", "2", ",", "4", ",", "2", ",", "3", ",", "7", ",", "1", ",", "3", ",", "1", ",", "2", ",", "5", ",", "0", ",", "3", ",", "8", ",", "6", ",", "3", ",", "1", ",", "5", ",", "1", ",", "1", ",", "0", ",", "1", ",", "7", ",", "9", ",", "4", ",", "8", ",", "0", ",", "1", ",", "7", ",", "9", ",", "3", ",", "8", ",", "3", ",", "0", ",", "5", ",", "1", ",", "1", ",", "5", ",", "5", ",", "7", ",", "6", ",", "3", ",", "6", ",", "0", ",", "4", ",", "6", ",", "5", ",", "2", ",", "2", ",", "3", ",", "6", ",", "6", ",", "2", ",", "7", ",", "1", ",", "9", ",", "9", ",", "1", ",", "1", ",", "8", ",", "0", ",", "1", ",", "2", ",", "1", ",", "4", ",", "4", ",", "3", ",", "9", ",", "3", ",", "6", ",", "1", ",", "4", ",", "3", ",", "3", ",", "9", ",", "3", ",", "4", ",", "8", ",", "1", ",", "7", ",", "8", ",", "8", ",", "8", ",", "2", ",", "3", ",", "7", ",", "4", ",", "4", ",", "2", ",", "8", ",", "1", ",", "5", ",", "6", ",", "1", ",", "1", ",", "3", ",", "0", ",", "7", ",", "1", ",", "8", ",", "4", ",", "7", ",", "2", ",", "6", ",", "9", ",", "1", ",", "9", ",", "0", ",", "0", ",", "5", ",", "1", ",", "7", ",", "3", ",", "4", ",", "1", ",", "9", ",", "8", ",", "7", ",", "4", ",", "0", ",", "8", ",", "3", ",", "6", ",", "8", ",", "5", ",", "7", ",", "6", ",", "6", ",", "0", ",", "2", ",", "8", ",", "8", ",", "2", ",", "6", ",", "6", ",", "8", ",", "3", ",", "5", ",", "9", ",", "9", ",", "9", ",", "2", ",", "4", ",", "2", ",", "1", ",", "1", ",", "0", ",", "1", ",", "8", ",", "4", ",", "5", ",", "6", ",", "9", ",", "5", ",", "8", ",", "3", ",", "1", ",", "1", ",", "6", ",", "7", ",", "5", ",", "3", ",", "0", ",", "6", ",", "3", ",", "0", ",", "1", ",", "9", ",", "9", ",", "1", ",", "7", ",", "9", ",", "4", ",", "0", ",", "3", ",", "1", ",", "9", ",", "7", ",", "3", ",", "8", ",", "5", ",", "9", ",", "6", ",", "5", ",", "6", ",", "8", ",", "6", ",", "2", ",", "4", ",", "8", ",", "3", ",", "5", ",", "5", ",", "3", ",", "4", ",", "0", ",", "1", ",", "4", ",", "0", ",", "0", ",", "7", ",", "4", ",", "0", ",", "4", ",", "0", ",", "8", ",", "3", ",", "4", ",", "6", ",", "1", ",", "1", ",", "9", ",", "0", ",", "0", ",", "7", ",", "7", ",", "0", ",", "3", ",", "0", ",", "8", ",", "5", ",", "7", ",", "3", ",", "3", ",", "4", ",", "3", ",", "1", ",", "2", ",", "2", ",", "0", ",", "5", ",", "4", ",", "2", ",", "8", ",", "0", ",", "9", ",", "0", ",", "2", ",", "6", ",", "1", ",", "9", ",", "3", ",", "1", ",", "9", ",", "3", ",", "5", ",", "4", ",", "1", ",", "1", ",", "3", ",", "4", ",", "5", ",", "9", ",", "8", ",", "3", ",", "6", ",", "3", ",", "2", ",", "4", ",", "9", ",", "0", ",", "3", ",", "5", ",", "4", ",", "9", ",", "7", ",", "0", ",", "3", ",", "9", ",", "8", ",", "9", ",", "2", ",", "9", ",", "5", ",", "8", ",", "5", ",", "6", ",", "5", ",", "2", ",", "2", ",", "5", ",", "9", ",", "9", ",", "2", ",", "3", ",", "5", ",", "2", ",", "2", ",", "4", ",", "0", ",", "6", ",", "7", ",", "0", ",", "8", ",", "5", ",", "9", ",", "4", ",", "9", ",", "8", ",", "2", ",", "5", ",", "0", ",", "2", ",", "1", ",", "1", ",", "0", ",", "0", ",", "0", ",", "3", ",", "7", ",", "0", ",", "7", ",", "9", ",", "8", ",", "1", ",", "1", ",", "4", ",", "8", ",", "6", ",", "2", ",", "6", ",", "9", ",", "7", ",", "7", ",", "9", ",", "0", ",", "4", ",", "5", ",", "9", ",", "8", ",", "4", ",", "3", ",", "8", ",", "1", ",", "1", ",", "1", ",", "5", ",", "9", ",", "0", ",", "1", ",", "2", ",", "2", ",", "4", ",", "9", ",", "1", ",", "4", ",", "7", ",", "8", ",", "4", ",", "7", ",", "3", ",", "4", ",", "5", ",", "8", ",", "6", ",", "0", ",", "9", ",", "2", ",", "6", ",", "9", ",", "5", ",", "8", ",", "8", ",", "1", ",", "3", ",", "6", ",", "2", ",", "0", ",", "8", ",", "1", ",", "0", ",", "1", ",", "8", ",", "7", ",", "5", ",", "7", ",", "4", ",", "0", ",", "4", ",", "8", ",", "9", ",", "7", ",", "3", ",", "5", ",", "2", ",", "4", ",", "6", ",", "8", ",", "2", ",", "0", ",", "9", ",", "7", ",", "9", ",", "5", ",", "4", ",", "8", ",", "4", ",", "2", ",", "2", ",", "8", ",", "7", ",", "3", ",", "0", ",", "6", ",", "6", ",", "1", ",", "4", ",", "9", ",", "7", ",", "7", ",", "1", ",", "8", ",", "2", ",", "2", ",", "0", ",", "1", ",", "8", ",", "2", ",", "5", ",", "7", ",", "4", ",", "7", ",", "7", ",", "1", ",", "8", ",", "5", ",", "5", ",", "6", ",", "8", ",", "2", ",", "7", ",", "5", ",", "3", ",", "1", ",", "7", ",", "9", ",", "9", ",", "1", ",", "9", ",", "6", ",", "8", ",", "7", ",", "7", ",", "8", ",", "1", ",", "9", ",", "5", ",", "5", ",", "5", ",", "2", ",", "4", ",", "6", ",", "2", ",", "7", ",", "7", ",", "3", ",", "2", ",", "1", ",", "4", ",", "0", ",", "7", ",", "7", ",", "4", ",", "6", ",", "9", ",", "5", ",", "0", ",", "7", ",", "0", ",", "0", ",", "1", ",", "3", ",", "1", ",", "7", ",", "8", ",", "7", ",", "3", ",", "2", ",", "3", ",", "9", ",", "0", ",", "5", ",", "6", ",", "9", ",", "9", ",", "1", ",", "4", ",", "2", ",", "3", ",", "5", ",", "0", ",", "7", ",", "5", ",", "6", ",", "5", ",", "1", ",", "6", ",", "8", ",", "7", ",", "8", ",", "3", ",", "2", ",", "3", ",", "4", ",", "2", ",", "1", ",", "9", ",", "2", ",", "8", ",", "9", ",", "9", ",", "4", ",", "4", ",", "8", ",", "6", ",", "3", ",", "0", ",", "4", ",", "5", ",", "7", ",", "9", ",", "2", ",", "3", ",", "8", ",", "0", ",", "8", ",", "3", ",", "3", ",", "8", ",", "1", ",", "2", ",", "2", ",", "8", ",", "1", ",", "5", ",", "1", ",", "3", ",", "1", ",", "3", ",", "7", ",", "8", ",", "6", ",", "3", ",", "2", ",", "8", ",", "8", ",", "3", ",", "1", ",", "0", ",", "7", ",", "2", ",", "3", ",", "1", ",", "1", ",", "5", ",", "1", ",", "7", ",", "0", ",", "1", ",", "1", ",", "5", ",", "9", ",", "6", ",", "8", ",", "3", ",", "7", ",", "3", ",", "9", ",", "0", ",", "3", ",", "5", ",", "4", ",", "9", ",", "0", ",", "6", ",", "9", ",", "5", ",", "9", ",", "6", ",", "4", ",", "2", ",", "3", ",", "7", ",", "9", ",", "3", ",", "4", ",", "0", ",", "9", ",", "2", ",", "2", ",", "1", ",", "9", ",", "9", ",", "8", ",", "2", ",", "3", ",", "2", ",", "5", ",", "6", ",", "3", ",", "7", ",", "6", ",", "3", ",", "5", ",", "5", ",", "7", ",", "6", ",", "3", ",", "1", ",", "6", ",", "8", ",", "3", ",", "9", ",", "1", ",", "8", ",", "2", ",", "6", ",", "5", ",", "9", ",", "1", ",", "0", ",", "1", ",", "0", ",", "3", ",", "6", ",", "4", ",", "1", ",", "2", ",", "1", ",", "0", ",", "4", ",", "9", ",", "8", ",", "6", ",", "3", ",", "1", ",", "2", ",", "4", ",", "2", ",", "5", ",", "9", ",", "6", ",", "6", ",", "4", ",", "3", ",", "0", ",", "1", ",", "0", ",", "6", ",", "7", ",", "2", ",", "7", ",", "9", ",", "5", ",", "4", ",", "0", ",", "4", ",", "6", ",", "6", ",", "5", ",", "2", ",", "4", ",", "2", ",", "4", ",", "5", ",", "1", ",", "6", ",", "0", ",", "3", ",", "2", ",", "0", ",", "0", ",", "1", ",", "3", ",", "0", ",", "3", ",", "7", ",", "5", ",", "8", ",", "1", ",", "3", ",", "8", ",", "3", ",", "7", ",", "0", ",", "1", ",", "1", ",", "0", ",", "4", ",", "5", ",", "6", ",", "2", ",", "6", ",", "5", ",", "6", ",", "6", ",", "4", ",", "8", ",", "8", ",", "8", ",", "5", ",", "2", ",", "7", ",", "1", ",", "2", ",", "2", ",", "3", ",", "2", ",", "8", ",", "3", ",", "4", ",", "3", ",", "2", ",", "3", ",", "9", ",", "7", ",", "6", ",", "3", ",", "9", ",", "8", ",", "1", ",", "2", ",", "6", ",", "7", ",", "0", ",", "2", ",", "1", ",", "5", ",", "1", ",", "4", ",", "3", ",", "3", ",", "4", ",", "8", ",", "6", ",", "6", ",", "5", ",", "8", ",", "0", ",", "0", ",", "8", ",", "5", ",", "6", ",", "3", ",", "5", ",", "4", ",", "5", ",", "6", ",", "7", ",", "6", ",", "9", ",", "5", ",", "0", ",", "0", ",", "2", ",", "1", ",", "3", ",", "0", ",", "0", ",", "0", ",", "4", ",", "0", ",", "9", ",", "1", ",", "1", ",", "7", ",", "0", ",", "6", ",", "0", ",", "7", ",", "3", ",", "6", ",", "7", ",", "0", ",", "9", ",", "3", ",", "2", ",", "0", ",", "0", ",", "3", ",", "9", ",", "2", ",", "0", ",", "5", ",", "2", ",", "0", ",", "1", ",", "6", ",", "2", ",", "8", ",", "6", ",", "8", ",", "0", ",", "8", ",", "1", ",", "2", ",", "6", ",", "4", ",", "7", ",", "0", ",", "7", ",", "3", ",", "4", ",", "8", ",", "5", ",", "1", ",", "8", ",", "8", ",", "4", ",", "0", ",", "9", ",", "1", ",", "5", ",", "6", ",", "0", ",", "9", ",", "2", ",", "7", ",", "6", ",", "9", ",", "5", ",", "5", ",", "6", ",", "0", ",", "4", ",", "3", ",", "9", ",", "6", ",", "5", ",", "7", ",", "7", ",", "7", ",", "7", ",", "1", ",", "0", ",", "1", ",", "3", ",", "8", ",", "3", ",", "6", ",", "4", ",", "6", ",", "5", ",", "9", ",", "9", ",", "8", ",", "4", ",", "6", ",", "0", ",", "7", ",", "3", ",", "0", ",", "8", ",", "5", ",", "5", ",", "2", ",", "4", ",", "5", ",", "8", ",", "6", ",", "3", ",", "5", ",", "8", ",", "5", ",", "4", ",", "8", ",", "0", ",", "8", ",", "3", ",", "4", ",", "5", ",", "7", ",", "2", ",", "0", ",", "1", ",", "3", ",", "2", ",", "5", ",", "4", ",", "5", ",", "0", ",", "3", ",", "3", ",", "2", ",", "9", ",", "9", ",", "5", ",", "8", ",", "4", ",", "7", ",", "7", ",", "6", ",", "4", ",", "9", ",", "3", ",", "5", ",", "8", ",", "0", ",", "6", ",", "8", ",", "7", ",", "0", ",", "6", ",", "9", ",", "1", ",", "3", ",", "4", ",", "9", ",", "5", ",", "2", ",", "7", ",", "3", ",", "4", ",", "0", ",", "0", ",", "2", ",", "0", ",", "6", ",", "0", ",", "8", ",", "4", ",", "9", ",", "3", ",", "2", ",", "4", ",", "3", ",", "4", ",", "9", ",", "7", ",", "6", ",", "1", ",", "5", ",", "5", ",", "0", ",", "2", ",", "7", ",", "2", ",", "4", ",", "3", ",", "9", ",", "2", ",", "6", ",", "5", ",", "9", ",", "3", ",", "9", ",", "3", ",", "6", ",", "6", ",", "8", ",", "8", ",", "5", ",", "7", ",", "7", ",", "3", ",", "0", ",", "8", ",", "9", ",", "9", ",", "0", ",", "8", ",", "6", ",", "2", ",", "4", ",", "6", ",", "1", ",", "1", ",", "0", ",", "0", ",", "5", ",", "6", ",", "0", ",", "3", ",", "5", ",", "1", ",", "0", ",", "7", ",", "6", ",", "9", ",", "3", ",", "1", ",", "0", ",", "4", ",", "4", ",", "9", ",", "2", ",", "6", ",", "4", ",", "3", ",", "2", ",", "8", ",", "5", ",", "9", ",", "0", ",", "3", ",", "8", ",", "0", ",", "9", ",", "6", ",", "1", ",", "8", ",", "7", ",", "3", ",", "6", ",", "3", ",", "9", ",", "8", ",", "4", ",", "5", ",", "6", ",", "7", ",", "6", ",", "5", ",", "6", ",", "0", ",", "3", ",", "8", ",", "9", ",", "1", ",", "9", ",", "5", ",", "0", ",", "3", ",", "3", ",", "0", ",", "5", ",", "9", ",", "2", ",", "4", ",", "2", ",", "6", ",", "3", ",", "4", ",", "7", ",", "2", ",", "1", ",", "8", ",", "1", ",", "4", ",", "9", ",", "9", ",", "9", ",", "2", ",", "9", ",", "6", ",", "9", ",", "9", ",", "6", ",", "4", ",", "5", ",", "4", ",", "7", ",", "3", ",", "8", ",", "3", ",", "5", ",", "5", ",", "5", ",", "3", ",", "7", ",", "4", ",", "5", ",", "0", ",", "0", ",", "6", ",", "5", ",", "0", ",", "3", ",", "5", ",", "4", ",", "7", ",", "3", ",", "2", ",", "1", ",", "4", ",", "3", ",", "5", ",", "6", ",", "3", ",", "3", ",", "2", ",", "9", ",", "6", ",", "0", ",", "8", ",", "5", ",", "6", ",", "8", ",", "3", ",", "7", ",", "6", ",", "4", ",", "2", ",", "7", ",", "1", ",", "2", ",", "4", ",", "7", ",", "2", ",", "0", ",", "4", ",", "2", ",", "7", ",", "5", ",", "7", ",", "3", ",", "0", ",", "0", ",", "4", ",", "7", ",", "9", ",", "0", ",", "6", ",", "3", ",", "8", ",", "5", ",", "3", ",", "8", ",", "0", ",", "2", ",", "4", ",", "0", ",", "9", ",", "6", ",", "4", ",", "4", ",", "8", ",", "0", ",", "5", ",", "9", ",", "5", ",", "8", ",", "2", ",", "3", ",", "8", ",", "8", ",", "5", ",", "2", ",", "2", ",", "1", ",", "3", ",", "3", ",", "2", ",", "0", ",", "6", ",", "4", ",", "6", ",", "3", ",", "4", ",", "2", ",", "0", ",", "2", ",", "6", ",", "6", ",", "6", ",", "2", ",", "5", ",", "0", ",", "0", ",", "5", ",", "6", ",", "0", ",", "8", ",", "7", ",", "4", ",", "2", ",", "7", ",", "4", ",", "9", ",", "8", ",", "3", ",", "2", ",", "2", ",", "7", ",", "7", ",", "5", ",", "7", ",", "3", ",", "4", ",", "7", ",", "4", ",", "8", ",", "0", ",", "5", ",", "2", ",", "0", ",", "1", ",", "0", ",", "2", ",", "2", ",", "5", ",", "7", ",", "5", ",", "4", ",", "1", ",", "9", ",", "4", ",", "6", ",", "9", ",", "8", ",", "3", ",", "2", ",", "9", ",", "4", ",", "0", ",", "7", ",", "6", ",", "8", ",", "7", ",", "1", ",", "5", ",", "1", ",", "9", ",", "1", ",", "5", ",", "1", ",", "0", ",", "4", ",", "9", ",", "5", ",", "3", ",", "6", ",", "6", ",", "4", ",", "0", ",", "8", ",", "1", ",", "9", ",", "6", ",", "8", ",", "3", ",", "3", ",", "0", ",", "0", ",", "7", ",", "6", ",", "5", ",", "5", ",", "7", ",", "4", ",", "8", ",", "1", ",", "2", ",", "3", ",", "4", ",", "2", ",", "5", ",", "1", ",", "7", ",", "4", ",", "6", ",", "5", ",", "5", ",", "0", ",", "4", ",", "5", ",", "8", ",", "5", ",", "2", ",", "6", ",", "5", ",", "4", ",", "5", ",", "1", ",", "4", ",", "3", ",", "8", ",", "8", ",", "2", ",", "9", ",", "4", ",", "6", ",", "7", ",", "3", ",", "3", ",", "3", ",", "5", ",", "2", ",", "5", ",", "7", ",", "1", ",", "7", ",", "0", ",", "2", ",", "1", ",", "0", ",", "1", ",", "3", ",", "9", ",", "6", ",", "3", ",", "7", ",", "6", ",", "7", ",", "4", ",", "5", ",", "2", ",", "5", ",", "4", ",", "5", ",", "6", ",", "5", ",", "3", ",", "0", ",", "8", ",", "3", ",", "4", ",", "7", ",", "5", ",", "6", ",", "8", ",", "4", ",", "1", ",", "3", ",", "6", ",", "0", ",", "0", ",", "7", ",", "6", ",", "2", ",", "4", ",", "0", ",", "1", ",", "9", ",", "5", ",", "2", ",", "3", ",", "1", ",", "0", ",", "3", ",", "2", ",", "4", ",", "7", ",", "4", ",", "1", ",", "3", ",", "8", ",", "0", ",", "7", ",", "3", ",", "4", ",", "3", ",", "8", ",", "6", ",", "9", ",", "8", ",", "0", ",", "2", ",", "9", ",", "2", ",", "1", ",", "6", ",", "7", ",", "5", ",", "2", ",", "4", ",", "6", ",", "9", ",", "6", ",", "1", ",", "4", ",", "3", ",", "5", ",", "0", ",", "4", ",", "8", ",", "9", ",", "4", ",", "8", ",", "9", ",", "9", ",", "6", ",", "1", ",", "0", ",", "4", ",", "4", ",", "2", ",", "4", ",", "6", ",", "4", ",", "5", ",", "8", ",", "9", ",", "7", ",", "4", ",", "1", ",", "6", ",", "2", ",", "7", ",", "9", ",", "7", ",", "6", ",", "4", ",", "1", ",", "1", ",", "5", ",", "9", ",", "3", ",", "4", ",", "8", ",", "3", ",", "5", ",", "6", ",", "3", ",", "5", ",", "6", ",", "0", ",", "8", ",", "7", ",", "1", ",", "7", ",", "9", ",", "8", ",", "3", ",", "8", ",", "8", ",", "2", ",", "9", ",", "8", ",", "5", ",", "9", ",", "9", ",", "3", ",", "5", ",", "7", ",", "1", ",", "6", ",", "7", ",", "8", ",", "5", ",", "0", ",", "8", ",", "8", ",", "9", ",", "8", ",", "3", ",", "4", ",", "1", ",", "8", ",", "7", ",", "9", ",", "9", ",", "7", ",", "5", ",", "6", ",", "2", ",", "5", ",", "1", ",", "5", ",", "5", ",", "8", ",", "1", ",", "0", ",", "5", ",", "9", ",", "8", ",", "5", ",", "4", ",", "8", ",", "3", ",", "8", ",", "2", ",", "2", ",", "0", ",", "4", ",", "3", ",", "3", ",", "6", ",", "9", ",", "5", ",", "2", ",", "2", ",", "4", ",", "0", ",", "7", ",", "6", ",", "1", ",", "4", ",", "9", ",", "9", ",", "9", ",", "5", ",", "3", ",", "8", ",", "1", ",", "7", ",", "7", ",", "3", ",", "2", ",", "2", ",", "5", ",", "7", ",", "7", ",", "3", ",", "4", ",", "0", ",", "0", ",", "9", ",", "5", ",", "1", ",", "4", ",", "8", ",", "4", ",", "3", ",", "3", ",", "4", ",", "1", ",", "2", ",", "9", ",", "1", ",", "6", ",", "4", ",", "4", ",", "3", ",", "8", ",", "1", ",", "3", ",", "4", ",", "0", ",", "3", ",", "7", ",", "8", ",", "6", ",", "1", ",", "5", ",", "9", ",", "6", ",", "2", ",", "0", ",", "5", ",", "6", ",", "8", ",", "8", ",", "5", ",", "0", ",", "5", ",", "0", ",", "3", ",", "5", ",", "8", ",", "8", ",", "3", ",", "8", ",", "1", ",", "0", ",", "0", ",", "6", ",", "1", ",", "5", ",", "5", ",", "3", ",", "3", ",", "4", ",", "7", ",", "8", ",", "8", ",", "8", ",", "5", ",", "4", ",", "9", ",", "6", ",", "1", ",", "3", ",", "2", ",", "0", ",", "0", ",", "1", ",", "0", ",", "8", ",", "4", ",", "7", ",", "0", ",", "5", ",", "9", ",", "7", ",", "5", ",", "1", ",", "4", ",", "1", ",", "0", ",", "1", ",", "1", ",", "8", ",", "1", ",", "7", ",", "6", ",", "0", ",", "8", ",", "2", ",", "4", ",", "3", ",", "5", ",", "2", ",", "1", ",", "3", ",", "8", ",", "6", ",", "1", ",", "8", ",", "7", ",", "7", ",", "9", ",", "7", ",", "9", ",", "6", ",", "1", ",", "0", ",", "0", ",", "9", ",", "8", ",", "6", ",", "8", ",", "4", ",", "8", ",", "1", ",", "2", ",", "1", ",", "0", ",", "5", ",", "4", ",", "3", ",", "8", ",", "6", ",", "8", ",", "1", ",", "7", ",", "8", ",", "0", ",", "5", ",", "7", ",", "5", ",", "3", ",", "3", ",", "1", ",", "4", ",", "4", ",", "8", ",", "2", ",", "2", ",", "0", ",", "3", ",", "0", ",", "1", ",", "9", ",", "5", ",", "5", ",", "3", ",", "0", ",", "4", ",", "1", ",", "8", ",", "7", ",", "1", ",", "3", ",", "9", ",", "7", ",", "2", ",", "8", ",", "3", ",", "4", ",", "8", ",", "8", ",", "8", ",", "4", ",", "0", ",", "7", ",", "5", ",", "4", ",", "0", ",", "2", ",", "7", ",", "7", ",", "2", ",", "8", ",", "2", ",", "9", ",", "3", ",", "7", ",", "5", ",", "5", ",", "0", ",", "0", ",", "9", ",", "9", ",", "8", ",", "2", ",", "9", ",", "3", ",", "8", ",", "6", ",", "0", ",", "6", ",", "0", ",", "1", ",", "8", ",", "5", ",", "3", ",", "8", ",", "8", ",", "5", ",", "4", ",", "1", ",", "2", ",", "0", ",", "2", ",", "7", ",", "7", ",", "0", ",", "0", ",", "1", ",", "8", ",", "6", ",", "6", ",", "6", ",", "5", ",", "4", ",", "9", ",", "6", ",", "4", ",", "3", ",", "6", ",", "7", ",", "2", ",", "3", ",", "5", ",", "1", ",", "7", ",", "2", ",", "0", ",", "8", ",", "6", ",", "7", ",", "4", ",", "4", ",", "1", ",", "5", ",", "2", ",", "7", ",", "1", ",", "7", ",", "4", ",", "8", ",", "5", ",", "9", ",", "9", ",", "7", ",", "1", ",", "7", ",", "7", ",", "4", ",", "1", ",", "2", ",", "1", ",", "7", ",", "3", ",", "0", ",", "9", ",", "7", ",", "1", ",", "1", ",", "1", ",", "1", ",", "6", ",", "4", ",", "1", ",", "4", ",", "4", ",", "4", ",", "9", ",", "3", ",", "0", ",", "5", ",", "1", ",", "0", ",", "9", ",", "6", ",", "4", ",", "8", ",", "6", ",", "2", ",", "2", ",", "3", ",", "0", ",", "4", ",", "5", ",", "4", ",", "6", ",", "8", ",", "1", ",", "7", ",", "8", ",", "1", ",", "4", ",", "2", ",", "7", ",", "5", ",", "7", ",", "2", ",", "2", ",", "4", ",", "0", ",", "1", ",", "6", ",", "9", ",", "5", ",", "4", ",", "9", ",", "6", ",", "8", ",", "7", ",", "6", ",", "5", ",", "1", ",", "4", ",", "4", ",", "0", ",", "7", ",", "9", ",", "9", ",", "6", ",", "5", ",", "4", ",", "5", ",", "7", ",", "4", ",", "2", ",", "5", ",", "2", ",", "9", ",", "1", ",", "1", ",", "6", ",", "3", ",", "5", ",", "1", ",", "9", ",", "9", ",", "9", ",", "4", ",", "9", ",", "4", ",", "1", ",", "2", ",", "5", ",", "3", ",", "9", ",", "5", ",", "8", ",", "2", ",", "9", ",", "3", ",", "6", ",", "6", ",", "7", ",", "6", ",", "1", ",", "5", ",", "8", ",", "1", ",", "1", ",", "9", ",", "0", ",", "3", ",", "3", ",", "8", ",", "1", ",", "2", ",", "7", ",", "1", ",", "7", ",", "1", ",", "8", ",", "7", ",", "8", ",", "5", ",", "9", ",", "4", ",", "7", ",", "1", ",", "8", ",", "7", ",", "5", ",", "6", ",", "2", ",", "5", ",", "6", ",", "0", ",", "2", ",", "9", ",", "0", ",", "7", ",", "3", ",", "6", ",", "4", ",", "0", ",", "0", ",", "9", ",", "2", ",", "9", ",", "8", ",", "1", ",", "3", ",", "6", ",", "7", ",", "0", ",", "6", ",", "1", ",", "8", ",", "0", ",", "1", ",", "1", ",", "9", ",", "6", ",", "6", ",", "6", ",", "7", ",", "8", ",", "6", ",", "5", ",", "2", ",", "4", ",", "2", ",", "9", ",", "6", ",", "2", ",", "8", ",", "8", ",", "3", ",", "4", ",", "9", ",", "0", ",", "9", ",", "5", ",", "4", ",", "6", ",", "2", ",", "1", ",", "0", ",", "7", ",", "9", ",", "3", ",", "7", ",", "0", ",", "2", ",", "1", ",", "5", ",", "8", ",", "4", ",", "9", ",", "5", ",", "2", ",", "5", ",", "4", ",", "4", ",", "6", ",", "6", ",", "7", ",", "2", ",", "5", ",", "2", ",", "6", ",", "2", ",", "3", ",", "0", ",", "8", ",", "0", ",", "9", ",", "8", ",", "7", ",", "4", ",", "9", ",", "3", ",", "9", ",", "4", ",", "9", ",", "8", ",", "0", ",", "4", ",", "4", ",", "8", ",", "6", ",", "8", ",", "3", ",", "3", ",", "3", ",", "0", ",", "7", ",", "8", ",", "3", ",", "3", ",", "8", ",", "3", ",", "7", ",", "4", ",", "7", ",", "6", ",", "0", ",", "3", ",", "7", ",", "8", ",", "5", ",", "6", ",", "0", ",", "3", ",", "8", ",", "0", ",", "4", ",", "8", ",", "8", ",", "8", ",", "4", ",", "3", ",", "9", ",", "2", ",", "3", ",", "4", ",", "0", ",", "8", ",", "7", ",", "6", ",", "7", ",", "2", ",", "1", ",", "0", ",", "7", ",", "6", ",", "9", ",", "1", ",", "6", ",", "0", ",", "5", ",", "7", ",", "5", ",", "9", ",", "0", ",", "4", ",", "8", ",", "7", ",", "8", ",", "2", ",", "1", ",", "4", ",", "8", ",", "2", ",", "8", ",", "5", ",", "4", ",", "3", ",", "4", ",", "6", ",", "1", ",", "2", ",", "3", ",", "3", ",", "1", ",", "2", ",", "2", ",", "4", ",", "6", ",", "2", ",", "3", ",", "5", ",", "6", ",", "0", ",", "5", ",", "0", ",", "8", ",", "6", ",", "7", ",", "5", ",", "2", ",", "3", ",", "4", ",", "8", ",", "7", ",", "7", ",", "3", ",", "8", ",", "8", ",", "2", ",", "4", ",", "8", ",", "0", ",", "1", "]", ",", "[", "65", ",", "67", "]", ")", ";", "const", "b", "=", "tf", ".", "tensor2d", "(", "[", "0", ",", "3", ",", "3", ",", "3", ",", "7", ",", "3", ",", "3", ",", "3", ",", "2", ",", "9", ",", "8", ",", "4", ",", "8", ",", "5", ",", "2", ",", "5", ",", "3", ",", "0", ",", "7", ",", "0", ",", "7", ",", "9", ",", "3", ",", "5", ",", "7", ",", "9", ",", "6", ",", "1", ",", "0", ",", "2", ",", "9", ",", "5", ",", "6", ",", "0", ",", "9", ",", "2", ",", "6", ",", "1", ",", "1", ",", "1", ",", "6", ",", "8", ",", "6", ",", "8", ",", "8", ",", "7", ",", "2", ",", "0", ",", "8", ",", "5", ",", "7", ",", "3", ",", "4", ",", "7", ",", "0", ",", "1", ",", "5", ",", "8", ",", "1", ",", "5", ",", "0", ",", "3", ",", "3", ",", "4", ",", "9", ",", "1", ",", "6", ",", "9", ",", "0", ",", "7", ",", "9", ",", "7", ",", "5", ",", "2", ",", "6", ",", "2", ",", "0", ",", "0", ",", "3", ",", "7", ",", "2", ",", "8", ",", "8", ",", "6", ",", "8", ",", "3", ",", "6", ",", "0", ",", "3", ",", "3", ",", "2", ",", "6", ",", "2", ",", "0", ",", "3", ",", "5", ",", "8", ",", "9", ",", "9", ",", "1", ",", "6", ",", "6", ",", "0", ",", "3", ",", "7", ",", "0", ",", "9", ",", "9", ",", "7", ",", "0", ",", "2", ",", "9", ",", "7", ",", "6", ",", "9", ",", "1", ",", "1", ",", "7", ",", "9", ",", "7", ",", "2", ",", "0", ",", "6", ",", "4", ",", "2", ",", "3", ",", "6", ",", "6", ",", "3", ",", "3", ",", "9", ",", "0", ",", "1", ",", "3", ",", "4", ",", "2", ",", "2", ",", "3", ",", "7", ",", "4", ",", "8", ",", "4", ",", "2", ",", "1", ",", "5", ",", "5", ",", "6", ",", "1", ",", "1", ",", "2", ",", "1", ",", "1", ",", "0", ",", "7", ",", "3", ",", "8", ",", "2", ",", "8", ",", "1", ",", "3", ",", "9", ",", "4", ",", "8", ",", "0", ",", "3", ",", "6", ",", "7", ",", "9", ",", "2", ",", "5", ",", "4", ",", "6", ",", "1", ",", "9", ",", "6", ",", "1", ",", "4", ",", "2", ",", "3", ",", "2", ",", "7", ",", "7", ",", "0", ",", "3", ",", "6", ",", "1", ",", "2", ",", "8", ",", "4", ",", "3", ",", "4", ",", "1", ",", "4", ",", "3", ",", "1", ",", "3", ",", "2", ",", "8", ",", "2", ",", "5", ",", "6", ",", "0", ",", "7", ",", "0", ",", "3", ",", "4", ",", "7", ",", "3", ",", "9", ",", "9", ",", "0", ",", "1", ",", "0", ",", "9", ",", "3", ",", "6", ",", "5", ",", "9", ",", "7", ",", "2", ",", "3", ",", "5", ",", "1", ",", "9", ",", "3", ",", "5", ",", "2", ",", "4", ",", "5", ",", "6", ",", "2", ",", "1", ",", "5", ",", "5", ",", "6", ",", "8", ",", "6", ",", "0", ",", "8", ",", "1", ",", "8", ",", "6", ",", "6", ",", "8", ",", "7", ",", "6", ",", "9", ",", "7", ",", "9", ",", "4", ",", "9", ",", "8", ",", "2", ",", "9", ",", "8", ",", "5", ",", "3", ",", "1", ",", "3", ",", "2", ",", "4", ",", "6", ",", "4", ",", "8", ",", "7", ",", "5", ",", "3", ",", "0", ",", "0", ",", "9", ",", "1", ",", "7", ",", "6", ",", "3", ",", "1", ",", "3", ",", "6", ",", "2", ",", "0", ",", "2", ",", "3", ",", "3", ",", "7", ",", "1", ",", "5", ",", "8", ",", "4", ",", "6", ",", "5", ",", "9", ",", "8", ",", "8", ",", "5", ",", "9", ",", "1", ",", "0", ",", "4", ",", "6", ",", "2", ",", "4", ",", "9", ",", "9", ",", "2", ",", "6", ",", "6", ",", "9", ",", "9", ",", "8", ",", "9", ",", "9", ",", "8", ",", "0", ",", "5", ",", "8", ",", "4", ",", "8", ",", "3", ",", "9", ",", "2", ",", "0", ",", "6", ",", "4", ",", "9", ",", "9", ",", "5", ",", "5", ",", "7", ",", "9", ",", "3", ",", "3", ",", "8", ",", "9", ",", "3", ",", "2", ",", "2", ",", "8", ",", "8", ",", "8", ",", "8", ",", "8", ",", "5", ",", "2", ",", "9", ",", "4", ",", "0", ",", "0", ",", "2", ",", "2", ",", "8", ",", "5", ",", "1", ",", "3", ",", "8", ",", "5", ",", "6", ",", "7", ",", "4", ",", "4", ",", "0", ",", "2", ",", "1", ",", "4", ",", "9", ",", "4", ",", "8", ",", "9", ",", "6", ",", "7", ",", "9", ",", "2", ",", "9", ",", "6", ",", "1", ",", "5", ",", "8", ",", "4", ",", "9", ",", "1", ",", "0", ",", "0", ",", "6", ",", "2", ",", "8", ",", "5", ",", "8", ",", "7", ",", "0", ",", "5", ",", "8", ",", "4", ",", "8", ",", "5", ",", "4", ",", "7", ",", "1", ",", "7", ",", "9", ",", "0", ",", "4", ",", "3", ",", "5", ",", "3", ",", "9", ",", "8", ",", "7", ",", "8", ",", "0", ",", "7", ",", "8", ",", "1", ",", "9", ",", "3", ",", "6", ",", "6", ",", "9", ",", "1", ",", "4", ",", "6", ",", "3", ",", "6", ",", "3", ",", "2", ",", "1", ",", "7", ",", "8", ",", "3", ",", "4", ",", "4", ",", "7", ",", "0", ",", "0", ",", "1", ",", "9", ",", "0", ",", "8", ",", "8", ",", "3", ",", "8", ",", "8", ",", "3", ",", "3", ",", "7", ",", "0", ",", "6", ",", "6", ",", "9", ",", "9", ",", "7", ",", "5", ",", "6", ",", "4", ",", "2", ",", "1", ",", "2", ",", "0", ",", "2", ",", "4", ",", "4", ",", "3", ",", "7", ",", "3", ",", "8", ",", "0", ",", "9", ",", "0", ",", "1", ",", "5", ",", "0", ",", "5", ",", "2", ",", "1", ",", "5", ",", "4", ",", "2", ",", "6", ",", "0", ",", "9", ",", "1", ",", "2", ",", "1", ",", "7", ",", "4", ",", "4", ",", "3", ",", "9", ",", "9", ",", "8", ",", "4", ",", "4", ",", "8", ",", "0", ",", "0", ",", "9", ",", "0", ",", "9", ",", "8", ",", "7", ",", "4", ",", "5", ",", "4", ",", "4", ",", "9", ",", "1", ",", "1", ",", "9", ",", "6", ",", "0", ",", "8", ",", "3", ",", "4", ",", "5", ",", "5", ",", "2", ",", "1", ",", "9", ",", "8", ",", "8", ",", "0", ",", "3", ",", "1", ",", "5", ",", "7", ",", "3", ",", "0", ",", "2", ",", "7", ",", "9", ",", "2", ",", "5", ",", "9", ",", "1", ",", "1", ",", "1", ",", "3", ",", "1", ",", "1", ",", "4", ",", "7", ",", "3", ",", "2", ",", "4", ",", "3", ",", "3", ",", "9", ",", "7", ",", "0", ",", "9", ",", "4", ",", "2", ",", "5", ",", "6", ",", "2", ",", "0", ",", "0", ",", "3", ",", "2", ",", "3", ",", "8", ",", "0", ",", "7", ",", "0", ",", "9", ",", "9", ",", "0", ",", "6", ",", "8", ",", "2", ",", "7", ",", "3", ",", "9", ",", "6", ",", "5", ",", "5", ",", "1", ",", "3", ",", "1", ",", "9", ",", "2", ",", "0", ",", "8", ",", "3", ",", "2", ",", "6", ",", "6", ",", "8", ",", "4", ",", "6", ",", "6", ",", "1", ",", "5", ",", "5", ",", "9", ",", "0", ",", "0", ",", "1", ",", "4", ",", "0", ",", "6", ",", "4", ",", "4", ",", "7", ",", "4", ",", "9", ",", "8", ",", "1", ",", "6", ",", "5", ",", "5", ",", "6", ",", "3", ",", "5", ",", "7", ",", "9", ",", "2", ",", "7", ",", "1", ",", "1", ",", "5", ",", "3", ",", "3", ",", "6", ",", "6", ",", "9", ",", "6", ",", "2", ",", "0", ",", "1", ",", "5", ",", "0", ",", "8", ",", "7", ",", "6", ",", "9", ",", "9", ",", "1", ",", "3", ",", "9", ",", "4", ",", "5", ",", "4", ",", "0", ",", "8", ",", "3", ",", "3", ",", "1", ",", "4", ",", "6", ",", "7", ",", "0", ",", "6", ",", "3", ",", "8", ",", "8", ",", "4", ",", "9", ",", "8", ",", "8", ",", "5", ",", "0", ",", "8", ",", "7", ",", "1", ",", "5", ",", "0", ",", "8", ",", "0", ",", "8", ",", "7", ",", "0", ",", "2", ",", "8", ",", "6", ",", "3", ",", "4", ",", "2", ",", "3", ",", "6", ",", "0", ",", "3", ",", "5", ",", "7", ",", "1", ",", "6", ",", "1", ",", "8", ",", "0", ",", "0", ",", "0", ",", "4", ",", "6", ",", "7", ",", "5", ",", "3", ",", "2", ",", "2", ",", "3", ",", "5", ",", "9", ",", "4", ",", "0", ",", "3", ",", "5", ",", "0", ",", "4", ",", "7", ",", "4", ",", "1", ",", "9", ",", "6", ",", "9", ",", "7", ",", "2", ",", "3", ",", "3", ",", "3", ",", "0", ",", "9", ",", "3", ",", "1", ",", "2", ",", "3", ",", "5", ",", "9", ",", "6", ",", "2", ",", "6", ",", "8", ",", "3", ",", "1", ",", "8", ",", "1", ",", "1", ",", "0", ",", "7", ",", "3", ",", "4", ",", "2", ",", "9", ",", "0", ",", "6", ",", "9", ",", "5", ",", "6", ",", "2", ",", "4", ",", "3", ",", "0", ",", "5", ",", "6", ",", "2", ",", "1", ",", "4", ",", "5", ",", "1", ",", "5", ",", "2", ",", "3", ",", "5", ",", "5", ",", "0", ",", "5", ",", "2", ",", "9", ",", "4", ",", "4", ",", "0", ",", "8", ",", "4", ",", "3", ",", "9", ",", "6", ",", "5", ",", "9", ",", "0", ",", "2", ",", "9", ",", "3", ",", "1", ",", "0", ",", "5", ",", "9", ",", "9", ",", "3", ",", "5", ",", "6", ",", "0", ",", "7", ",", "0", ",", "3", ",", "6", ",", "6", ",", "7", ",", "5", ",", "2", ",", "0", ",", "8", ",", "3", ",", "6", ",", "2", ",", "4", ",", "6", ",", "5", ",", "1", ",", "0", ",", "6", ",", "5", ",", "6", ",", "3", ",", "2", ",", "0", ",", "8", ",", "5", ",", "9", ",", "7", ",", "7", ",", "1", ",", "8", ",", "2", ",", "6", ",", "1", ",", "7", ",", "4", ",", "2", ",", "8", ",", "6", ",", "1", ",", "3", ",", "1", ",", "3", ",", "4", ",", "7", ",", "2", ",", "0", ",", "5", ",", "5", ",", "6", ",", "4", ",", "8", ",", "9", ",", "2", ",", "9", ",", "9", ",", "1", ",", "4", ",", "3", ",", "2", ",", "2", ",", "3", ",", "3", ",", "0", ",", "1", ",", "1", ",", "0", ",", "9", ",", "2", ",", "8", ",", "3", ",", "0", ",", "5", ",", "5", ",", "6", ",", "3", ",", "9", ",", "9", ",", "2", ",", "6", ",", "2", ",", "3", ",", "8", ",", "4", ",", "3", ",", "7", ",", "7", ",", "1", ",", "4", ",", "7", ",", "2", ",", "4", ",", "4", ",", "5", ",", "5", ",", "8", ",", "2", ",", "9", ",", "8", ",", "4", ",", "9", ",", "4", ",", "0", ",", "9", ",", "8", ",", "1", ",", "9", ",", "6", ",", "8", ",", "4", ",", "8", ",", "5", ",", "6", ",", "2", ",", "9", ",", "7", ",", "3", ",", "7", ",", "2", ",", "7", ",", "9", ",", "2", ",", "8", ",", "4", ",", "3", ",", "5", ",", "7", ",", "5", ",", "1", ",", "6", ",", "9", ",", "0", ",", "0", ",", "7", ",", "3", ",", "9", ",", "6", ",", "0", ",", "6", ",", "9", ",", "2", ",", "9", ",", "0", ",", "9", ",", "1", ",", "8", ",", "8", ",", "8", ",", "9", ",", "4", ",", "3", ",", "8", ",", "7", ",", "8", ",", "5", ",", "9", ",", "1", ",", "1", ",", "9", ",", "1", ",", "7", ",", "3", ",", "3", ",", "7", ",", "1", ",", "5", ",", "5", ",", "9", ",", "6", ",", "1", ",", "8", ",", "6", ",", "7", ",", "1", ",", "9", ",", "0", ",", "1", ",", "4", ",", "4", ",", "4", ",", "6", ",", "9", ",", "4", ",", "7", ",", "2", ",", "9", ",", "5", ",", "9", ",", "9", ",", "2", ",", "0", ",", "5", ",", "4", ",", "5", ",", "3", ",", "7", ",", "5", ",", "2", ",", "7", ",", "4", ",", "2", ",", "4", ",", "0", ",", "9", ",", "0", ",", "1", ",", "7", ",", "0", ",", "3", ",", "2", ",", "3", ",", "9", ",", "9", ",", "6", ",", "7", ",", "4", ",", "6", ",", "8", ",", "1", ",", "2", ",", "5", ",", "2", ",", "2", ",", "3", ",", "4", ",", "3", ",", "7", ",", "7", ",", "4", ",", "6", ",", "9", ",", "9", ",", "1", ",", "6", ",", "1", ",", "9", ",", "4", ",", "5", ",", "4", ",", "7", ",", "3", ",", "0", ",", "0", ",", "6", ",", "0", ",", "7", ",", "8", ",", "3", ",", "4", ",", "5", ",", "6", ",", "1", ",", "6", ",", "8", ",", "0", ",", "8", ",", "5", ",", "5", ",", "7", ",", "4", ",", "2", ",", "6", ",", "0", ",", "4", ",", "2", ",", "9", ",", "7", ",", "3", ",", "9", ",", "8", ",", "6", ",", "8", ",", "4", ",", "4", ",", "9", ",", "1", ",", "8", ",", "9", ",", "1", ",", "3", ",", "3", ",", "5", ",", "9", ",", "5", ",", "0", ",", "9", ",", "5", ",", "5", ",", "5", ",", "6", ",", "2", ",", "1", ",", "4", ",", "3", ",", "9", ",", "5", ",", "1", ",", "8", ",", "9", ",", "7", ",", "8", ",", "7", ",", "3", ",", "1", ",", "9", ",", "3", ",", "7", ",", "3", ",", "2", ",", "9", ",", "4", ",", "5", ",", "8", ",", "7", ",", "9", ",", "6", ",", "7", ",", "2", ",", "3", ",", "9", ",", "6", ",", "2", ",", "3", ",", "1", ",", "0", ",", "2", ",", "7", ",", "2", ",", "9", ",", "2", ",", "5", ",", "5", ",", "9", ",", "4", ",", "4", ",", "7", ",", "4", ",", "4", ",", "6", ",", "9", ",", "2", ",", "1", ",", "8", ",", "7", ",", "7", ",", "8", ",", "8", ",", "4", ",", "3", ",", "1", ",", "6", ",", "2", ",", "2", ",", "2", ",", "8", ",", "1", ",", "5", ",", "5", ",", "5", ",", "3", ",", "5", ",", "0", ",", "8", ",", "1", ",", "1", ",", "9", ",", "2", ",", "9", ",", "4", ",", "8", ",", "3", ",", "4", ",", "3", ",", "5", ",", "1", ",", "2", ",", "6", ",", "4", ",", "5", ",", "6", ",", "6", ",", "8", ",", "9", ",", "1", ",", "4", ",", "9", ",", "1", ",", "3", ",", "1", ",", "5", ",", "5", ",", "0", ",", "1", ",", "8", ",", "6", ",", "9", ",", "3", ",", "0", ",", "9", ",", "4", ",", "7", ",", "4", ",", "4", ",", "8", ",", "5", ",", "9", ",", "8", ",", "8", ",", "4", ",", "5", ",", "9", ",", "7", ",", "7", ",", "0", ",", "6", ",", "0", ",", "0", ",", "7", ",", "6", ",", "4", ",", "8", ",", "2", ",", "0", ",", "0", ",", "6", ",", "8", ",", "8", ",", "1", ",", "4", ",", "7", ",", "8", ",", "5", ",", "5", ",", "3", ",", "9", ",", "6", ",", "8", ",", "7", ",", "8", ",", "2", ",", "4", ",", "9", ",", "0", ",", "5", ",", "3", ",", "3", ",", "5", ",", "9", ",", "8", ",", "1", ",", "9", ",", "8", ",", "2", ",", "7", ",", "2", ",", "1", ",", "7", ",", "4", ",", "3", ",", "5", ",", "4", ",", "9", ",", "8", ",", "1", ",", "2", ",", "0", ",", "2", ",", "7", ",", "8", ",", "4", ",", "3", ",", "2", ",", "8", ",", "7", ",", "2", ",", "6", ",", "6", ",", "2", ",", "9", ",", "2", ",", "9", ",", "1", ",", "3", ",", "4", ",", "8", ",", "2", ",", "2", ",", "0", ",", "8", ",", "3", ",", "2", ",", "3", ",", "9", ",", "3", ",", "0", ",", "1", ",", "3", ",", "4", ",", "2", ",", "9", ",", "5", ",", "4", ",", "0", ",", "5", ",", "9", ",", "4", ",", "8", ",", "5", ",", "8", ",", "4", ",", "5", ",", "3", ",", "7", ",", "2", ",", "1", ",", "8", ",", "2", ",", "8", ",", "9", ",", "0", ",", "4", ",", "3", ",", "9", ",", "3", ",", "6", ",", "3", ",", "5", ",", "1", ",", "1", ",", "1", ",", "0", ",", "5", ",", "0", ",", "8", ",", "2", ",", "7", ",", "4", ",", "3", ",", "4", ",", "0", ",", "5", ",", "3", ",", "4", ",", "0", ",", "8", ",", "5", ",", "3", ",", "1", ",", "1", ",", "9", ",", "3", ",", "1", ",", "8", ",", "6", ",", "1", ",", "2", ",", "2", ",", "2", ",", "6", ",", "8", ",", "3", ",", "7", ",", "7", ",", "8", ",", "9", ",", "1", ",", "0", ",", "1", ",", "9", ",", "0", ",", "1", ",", "6", ",", "7", ",", "3", ",", "6", ",", "2", ",", "7", ",", "0", ",", "7", ",", "8", ",", "2", ",", "8", ",", "8", ",", "5", ",", "0", ",", "4", ",", "3", ",", "8", ",", "5", ",", "0", ",", "1", ",", "8", ",", "0", ",", "7", ",", "1", ",", "1", ",", "8", ",", "3", ",", "7", ",", "7", ",", "1", ",", "6", ",", "1", ",", "4", ",", "9", ",", "3", ",", "3", ",", "0", ",", "0", ",", "0", ",", "2", ",", "7", ",", "8", ",", "6", ",", "4", ",", "7", ",", "7", ",", "2", ",", "0", ",", "9", ",", "7", ",", "8", ",", "4", ",", "2", ",", "3", ",", "7", ",", "2", ",", "2", ",", "7", ",", "4", ",", "0", ",", "4", ",", "8", ",", "8", ",", "8", ",", "8", ",", "3", ",", "8", ",", "4", ",", "4", ",", "4", ",", "7", ",", "8", ",", "0", ",", "3", ",", "4", ",", "5", ",", "8", ",", "1", ",", "5", ",", "5", ",", "7", ",", "8", ",", "9", ",", "7", ",", "1", ",", "7", ",", "3", ",", "4", ",", "3", ",", "5", ",", "0", ",", "8", ",", "7", ",", "1", ",", "4", ",", "5", ",", "0", ",", "6", ",", "3", ",", "9", ",", "4", ",", "4", ",", "8", ",", "9", ",", "6", ",", "3", ",", "0", ",", "5", ",", "7", ",", "1", ",", "4", ",", "9", ",", "2", ",", "0", ",", "9", ",", "1", ",", "3", ",", "1", ",", "2", ",", "7", ",", "8", ",", "9", ",", "6", ",", "2", ",", "8", ",", "3", ",", "4", ",", "7", ",", "9", ",", "2", ",", "7", ",", "4", ",", "1", ",", "0", ",", "7", ",", "2", ",", "1", ",", "1", ",", "9", ",", "5", ",", "6", ",", "9", ",", "5", ",", "8", ",", "4", ",", "6", ",", "3", ",", "1", ",", "9", ",", "6", ",", "1", ",", "9", ",", "1", ",", "6", ",", "0", ",", "4", ",", "5", ",", "7", ",", "9", ",", "3", ",", "5", ",", "4", ",", "4", ",", "7", ",", "2", ",", "1", ",", "8", ",", "2", ",", "7", ",", "6", ",", "6", ",", "1", ",", "8", ",", "4", ",", "6", ",", "4", ",", "7", ",", "4", ",", "7", ",", "9", ",", "9", ",", "7", ",", "5", ",", "7", ",", "2", ",", "4", ",", "0", ",", "7", ",", "2", ",", "3", ",", "2", ",", "0", ",", "1", ",", "0", ",", "7", ",", "8", ",", "4", ",", "1", ",", "0", ",", "2", ",", "8", ",", "8", ",", "0", ",", "8", ",", "9", ",", "9", ",", "8", ",", "4", ",", "3", ",", "2", ",", "4", ",", "5", ",", "4", ",", "5", ",", "5", ",", "1", ",", "6", ",", "3", ",", "6", ",", "5", ",", "1", ",", "4", ",", "9", ",", "9", ",", "5", ",", "6", ",", "0", ",", "9", ",", "9", ",", "8", ",", "2", ",", "6", ",", "3", ",", "3", ",", "4", ",", "1", ",", "2", ",", "9", ",", "3", ",", "7", ",", "2", ",", "2", ",", "0", ",", "7", ",", "6", ",", "4", ",", "6", ",", "7", ",", "8", ",", "7", ",", "9", ",", "8", ",", "0", ",", "9", ",", "4", ",", "7", ",", "2", ",", "5", ",", "0", ",", "6", ",", "7", ",", "7", ",", "0", ",", "4", ",", "0", ",", "0", ",", "0", ",", "4", ",", "1", ",", "8", ",", "3", ",", "5", ",", "9", ",", "8", ",", "5", ",", "5", ",", "1", ",", "4", ",", "6", ",", "3", ",", "5", ",", "3", ",", "5", ",", "1", ",", "8", ",", "5", ",", "3", ",", "4", ",", "2", ",", "8", ",", "3", ",", "4", ",", "9", ",", "1", ",", "8", ",", "4", ",", "4", ",", "4", ",", "8", ",", "7", ",", "5", ",", "3", ",", "0", ",", "1", ",", "4", ",", "6", ",", "3", ",", "3", ",", "0", ",", "3", ",", "1", ",", "5", ",", "8", ",", "6", ",", "6", ",", "7", ",", "3", ",", "9", ",", "9", ",", "2", ",", "4", ",", "1", ",", "1", ",", "9", ",", "9", ",", "5", ",", "1", ",", "9", ",", "4", ",", "9", ",", "4", ",", "7", ",", "2", ",", "8", ",", "0", ",", "6", ",", "0", ",", "3", ",", "7", ",", "2", ",", "7", ",", "6", ",", "9", ",", "6", ",", "8", ",", "5", ",", "8", ",", "9", ",", "7", ",", "4", ",", "1", ",", "5", ",", "5", ",", "2", ",", "7", ",", "8", ",", "6", ",", "6", ",", "7", ",", "3", ",", "6", ",", "9", ",", "1", ",", "9", ",", "4", ",", "9", ",", "9", ",", "2", ",", "6", ",", "3", ",", "2", ",", "9", ",", "8", ",", "9", ",", "4", ",", "8", ",", "3", ",", "0", ",", "5", ",", "9", ",", "9", ",", "2", ",", "1", ",", "7", ",", "2", ",", "2", ",", "1", ",", "8", ",", "8", ",", "7", ",", "0", ",", "9", ",", "8", ",", "8", ",", "0", ",", "8", ",", "4", ",", "3", ",", "2", ",", "2", ",", "7", ",", "9", ",", "9", ",", "7", ",", "5", ",", "8", ",", "9", ",", "8", ",", "7", ",", "4", ",", "7", ",", "9", ",", "1", ",", "0", ",", "7", ",", "6", ",", "2", ",", "4", ",", "4", ",", "0", ",", "1", ",", "9", ",", "7", ",", "4", ",", "5", ",", "9", ",", "2", ",", "2", ",", "5", ",", "1", ",", "3", ",", "2", ",", "2", ",", "9", ",", "2", ",", "2", ",", "8", ",", "7", ",", "6", ",", "0", ",", "7", ",", "5", ",", "6", ",", "5", ",", "6", ",", "0", ",", "0", ",", "5", ",", "6", ",", "7", ",", "2", ",", "7", ",", "1", ",", "2", ",", "1", ",", "7", ",", "0", ",", "0", ",", "2", ",", "6", ",", "3", ",", "8", ",", "1", ",", "7", ",", "1", ",", "8", ",", "7", ",", "7", ",", "5", ",", "1", ",", "0", ",", "8", ",", "4", ",", "7", ",", "8", ",", "9", ",", "1", ",", "5", ",", "4", ",", "1", ",", "9", ",", "3", ",", "3", ",", "8", ",", "4", ",", "5", ",", "7", ",", "9", ",", "4", ",", "7", ",", "3", ",", "8", ",", "9", ",", "5", ",", "3", ",", "2", ",", "7", ",", "3", ",", "9", ",", "7", ",", "9", ",", "8", ",", "2", ",", "8", ",", "0", ",", "1", ",", "7", ",", "8", ",", "2", ",", "1", ",", "0", ",", "7", ",", "5", ",", "1", ",", "3", ",", "7", ",", "2", ",", "4", ",", "8", ",", "8", ",", "4", ",", "6", ",", "8", ",", "2", ",", "7", ",", "6", ",", "8", ",", "2", ",", "0", ",", "9", ",", "5", ",", "4", ",", "0", ",", "2", ",", "2", ",", "1", ",", "1", ",", "4", ",", "4", ",", "9", ",", "3", ",", "0", ",", "7", ",", "1", ",", "6", ",", "4", ",", "4", ",", "9", ",", "9", ",", "2", ",", "3", ",", "6", ",", "3", ",", "8", ",", "7", ",", "3", ",", "3", ",", "1", ",", "0", ",", "0", ",", "1", ",", "9", ",", "6", ",", "7", ",", "5", ",", "5", ",", "8", ",", "4", ",", "1", ",", "3", ",", "6", ",", "3", ",", "6", ",", "5", ",", "6", ",", "3", ",", "7", ",", "8", ",", "1", ",", "4", ",", "0", ",", "0", ",", "2", ",", "4", ",", "1", ",", "3", ",", "6", ",", "8", ",", "1", ",", "2", ",", "9", ",", "3", ",", "9", ",", "7", ",", "8", ",", "4", ",", "0", ",", "6", ",", "4", ",", "3", ",", "3", ",", "9", ",", "8", ",", "9", ",", "1", ",", "7", ",", "1", ",", "5", ",", "8", ",", "1", ",", "4", ",", "3", ",", "2", ",", "0", ",", "6", ",", "5", ",", "9", ",", "2", ",", "6", ",", "2", ",", "5", ",", "8", ",", "8", ",", "8", ",", "0", ",", "7", ",", "4", ",", "1", ",", "1", ",", "3", ",", "6", ",", "0", ",", "8", ",", "3", ",", "6", ",", "2", ",", "4", ",", "6", ",", "1", ",", "7", ",", "5", ",", "3", ",", "8", ",", "0", ",", "6", ",", "3", ",", "7", ",", "5", ",", "5", ",", "2", ",", "3", ",", "2", ",", "7", ",", "6", ",", "9", ",", "3", ",", "8", ",", "4", ",", "5", ",", "5", ",", "4", ",", "0", ",", "9", ",", "9", ",", "7", ",", "8", ",", "6", ",", "7", ",", "1", ",", "8", ",", "7", ",", "1", ",", "5", ",", "0", ",", "0", ",", "9", ",", "5", ",", "8", ",", "7", ",", "7", ",", "3", ",", "4", ",", "2", ",", "1", ",", "4", ",", "1", ",", "9", ",", "1", ",", "1", ",", "9", ",", "8", ",", "6", ",", "3", ",", "5", ",", "5", ",", "0", ",", "8", ",", "9", ",", "1", ",", "7", ",", "5", ",", "1", ",", "7", ",", "8", ",", "0", ",", "0", ",", "4", ",", "0", ",", "3", ",", "7", ",", "1", ",", "4", ",", "4", ",", "7", ",", "4", ",", "3", ",", "3", ",", "8", ",", "7", ",", "1", ",", "5", ",", "1", ",", "1", ",", "0", ",", "9", ",", "5", ",", "0", ",", "5", ",", "9", ",", "7", ",", "0", ",", "5", ",", "7", ",", "4", ",", "6", ",", "0", ",", "2", ",", "4", ",", "0", ",", "4", ",", "8", ",", "1", ",", "6", ",", "1", ",", "5", ",", "7", ",", "5", ",", "5", ",", "1", ",", "8", ",", "2", ",", "3", ",", "8", ",", "5", ",", "8", ",", "8", ",", "9", ",", "0", ",", "4", ",", "1", ",", "2", ",", "5", ",", "9", ",", "0", ",", "0", ",", "8", ",", "1", ",", "7", ",", "4", ",", "8", ",", "8", ",", "3", ",", "3", ",", "2", ",", "4", ",", "8", ",", "1", ",", "7", ",", "6", ",", "0", ",", "1", ",", "6", ",", "6", ",", "7", ",", "1", ",", "5", ",", "9", ",", "1", ",", "7", ",", "8", ",", "1", ",", "5", ",", "9", ",", "5", ",", "8", ",", "2", ",", "4", ",", "6", ",", "0", ",", "3", ",", "4", ",", "2", ",", "3", ",", "8", ",", "4", ",", "4", ",", "9", ",", "7", ",", "3", ",", "7", ",", "3", ",", "8", ",", "9", ",", "1", ",", "7", ",", "2", ",", "2", ",", "6", ",", "5", ",", "1", ",", "9", ",", "2", ",", "8", ",", "1", ",", "6", ",", "4", ",", "3", ",", "1", ",", "0", ",", "6", ",", "4", ",", "3", ",", "1", ",", "0", ",", "5", ",", "0", ",", "5", ",", "9", ",", "9", ",", "2", ",", "7", ",", "1", ",", "0", ",", "0", ",", "3", ",", "4", ",", "7", ",", "1", ",", "5", ",", "9", ",", "2", ",", "8", ",", "7", ",", "8", ",", "0", ",", "9", ",", "0", ",", "8", ",", "8", ",", "6", ",", "8", ",", "3", ",", "1", ",", "3", ",", "5", ",", "4", ",", "3", ",", "9", ",", "5", ",", "2", ",", "5", ",", "5", ",", "1", ",", "2", ",", "4", ",", "7", ",", "8", ",", "3", ",", "1", ",", "9", ",", "2", ",", "4", ",", "9", ",", "1", ",", "2", ",", "8", ",", "9", ",", "9", ",", "6", ",", "1", ",", "5", ",", "8", ",", "8", ",", "4", ",", "2", ",", "3", ",", "8", ",", "3", ",", "8", ",", "7", ",", "0", ",", "7", ",", "0", ",", "1", ",", "6", ",", "3", ",", "2", ",", "5", ",", "0", ",", "0", ",", "5", ",", "6", ",", "0", ",", "6", ",", "8", ",", "4", ",", "9", ",", "9", ",", "3", ",", "8", ",", "5", ",", "7", ",", "3", ",", "5", ",", "4", ",", "7", ",", "3", ",", "4", ",", "7", ",", "8", ",", "2", ",", "3", ",", "8", ",", "5", ",", "1", ",", "4", ",", "3", ",", "4", ",", "8", ",", "0", ",", "7", ",", "5", ",", "8", ",", "5", ",", "4", ",", "0", ",", "7", ",", "0", ",", "7", ",", "2", ",", "2", ",", "0", ",", "0", ",", "0", ",", "1", ",", "6", ",", "9", ",", "8", ",", "2", ",", "9", ",", "5", ",", "1", ",", "2", ",", "9", ",", "3", ",", "9", ",", "1", ",", "7", ",", "3", ",", "7", ",", "2", ",", "9", ",", "8", ",", "6", ",", "1", ",", "7", ",", "2", ",", "4", ",", "2", ",", "3", ",", "2", ",", "7", ",", "8", ",", "0", ",", "0", ",", "9", ",", "0", ",", "8", ",", "2", ",", "1", ",", "1", ",", "7", ",", "6", ",", "7", ",", "5", ",", "4", ",", "7", ",", "0", ",", "2", ",", "8", ",", "4", ",", "8", ",", "2", ",", "0", ",", "0", ",", "5", ",", "5", ",", "3", ",", "6", ",", "5", ",", "9", ",", "4", ",", "6", ",", "1", ",", "6", ",", "1", ",", "1", ",", "3", ",", "6", ",", "2", ",", "5", ",", "4", ",", "1", ",", "7", ",", "6", ",", "9", ",", "7", ",", "4", ",", "6", ",", "2", ",", "7", ",", "8", ",", "0", ",", "8", ",", "6", ",", "7", ",", "0", ",", "3", ",", "8", ",", "7", ",", "4", ",", "0", ",", "8", ",", "4", ",", "9", ",", "0", ",", "1", ",", "6", ",", "8", ",", "7", ",", "4", ",", "2", ",", "7", ",", "8", ",", "5", ",", "2", ",", "9", ",", "4", ",", "4", ",", "2", ",", "0", ",", "2", ",", "8", ",", "0", ",", "8", ",", "1", ",", "2", ",", "4", ",", "1", ",", "3", ",", "1", ",", "8", ",", "2", ",", "9", ",", "8", ",", "6", ",", "9", ",", "6", ",", "5", ",", "1", ",", "9", ",", "5", ",", "4", ",", "2", ",", "1", ",", "5", ",", "9", ",", "2", ",", "2", ",", "2", ",", "6", ",", "4", ",", "4", ",", "8", ",", "4", ",", "0", ",", "1", ",", "4", ",", "2", ",", "7", ",", "4", ",", "6", ",", "1", ",", "8", ",", "8", ",", "3", ",", "4", ",", "1", ",", "6", ",", "2", ",", "2", ",", "4", ",", "9", ",", "5", ",", "8", ",", "5", ",", "2", ",", "7", ",", "0", ",", "9", ",", "4", ",", "5", ",", "2", ",", "3", ",", "2", ",", "4", ",", "8", ",", "0", ",", "3", ",", "3", ",", "4", ",", "4", ",", "0", ",", "3", ",", "6", ",", "8", ",", "6", ",", "4", ",", "3", ",", "1", ",", "9", ",", "9", ",", "8", ",", "0", ",", "3", ",", "3", ",", "5", ",", "0", ",", "6", ",", "8", ",", "4", ",", "0", ",", "2", ",", "5", ",", "7", ",", "0", ",", "0", ",", "5", ",", "8", ",", "2", ",", "5", ",", "3", ",", "5", ",", "9", ",", "5", ",", "8", ",", "3", ",", "9", ",", "5", ",", "0", ",", "6", ",", "7", ",", "9", ",", "4", ",", "5", ",", "8", ",", "7", ",", "8", ",", "9", ",", "8", ",", "2", ",", "9", ",", "0", ",", "4", ",", "6", ",", "5", ",", "5", ",", "8", ",", "9", ",", "7", ",", "7", ",", "7", ",", "4", ",", "9", ",", "3", ",", "9", ",", "3", ",", "4", ",", "0", ",", "9", ",", "3", ",", "5", ",", "3", ",", "4", ",", "3", ",", "9", ",", "3", ",", "4", ",", "1", ",", "3", ",", "5", ",", "8", ",", "0", ",", "6", ",", "8", ",", "1", ",", "3", ",", "6", ",", "5", ",", "5", ",", "9", ",", "9", ",", "6", ",", "9", ",", "7", ",", "8", ",", "2", ",", "6", ",", "0", ",", "4", ",", "3", ",", "3", ",", "7", ",", "2", ",", "9", ",", "2", ",", "3", ",", "6", ",", "0", ",", "3", ",", "0", ",", "2", ",", "7", ",", "4", ",", "5", ",", "2", ",", "3", ",", "5", ",", "7", ",", "9", ",", "9", ",", "8", ",", "0", ",", "9", ",", "3", ",", "1", ",", "6", ",", "1", ",", "7", ",", "6", ",", "4", ",", "9", ",", "0", ",", "8", ",", "5", ",", "8", ",", "8", ",", "4", ",", "3", ",", "1", ",", "5", ",", "8", ",", "4", ",", "8", ",", "0", ",", "3", ",", "8", ",", "3", ",", "2", ",", "8", ",", "7", ",", "9", ",", "0", ",", "0", ",", "3", ",", "3", ",", "4", ",", "5", ",", "2", ",", "5", ",", "7", ",", "3", ",", "7", ",", "8", ",", "1", ",", "7", ",", "1", ",", "6", ",", "6", ",", "7", ",", "7", ",", "8", ",", "8", ",", "1", ",", "2", ",", "2", ",", "7", ",", "6", ",", "6", ",", "7", ",", "2", ",", "6", ",", "8", ",", "7", ",", "1", ",", "6", ",", "2", ",", "5", ",", "9", ",", "9", ",", "1", ",", "3", ",", "7", ",", "1", ",", "0", ",", "6", ",", "3", ",", "8", ",", "5", ",", "9", ",", "8", ",", "3", ",", "3", ",", "9", ",", "0", ",", "8", ",", "4", ",", "0", ",", "6", ",", "0", ",", "6", ",", "1", ",", "9", ",", "2", ",", "7", ",", "5", ",", "7", ",", "5", ",", "2", ",", "3", ",", "6", ",", "2", ",", "7", ",", "4", ",", "6", ",", "3", ",", "9", ",", "5", ",", "4", ",", "7", ",", "3", ",", "1", ",", "7", ",", "4", ",", "6", ",", "3", ",", "4", ",", "3", ",", "1", ",", "9", ",", "7", ",", "5", ",", "2", ",", "0", ",", "9", ",", "1", ",", "6", ",", "3", ",", "9", ",", "1", ",", "9", ",", "8", ",", "0", ",", "7", ",", "0", ",", "9", ",", "9", ",", "1", ",", "2", ",", "2", ",", "4", ",", "1", ",", "5", ",", "7", ",", "7", ",", "5", ",", "7", ",", "8", ",", "2", ",", "6", ",", "0", ",", "9", ",", "3", ",", "9", ",", "8", ",", "6", ",", "4", ",", "4", ",", "7", ",", "4", ",", "0", ",", "6", ",", "0", ",", "3", ",", "0", ",", "9", ",", "4", ",", "6", ",", "8", ",", "9", ",", "4", ",", "2", ",", "8", ",", "5", ",", "7", ",", "9", ",", "3", ",", "5", ",", "3", ",", "1", ",", "1", ",", "7", ",", "2", ",", "5", ",", "7", ",", "1", ",", "6", ",", "2", ",", "6", ",", "5", ",", "5", ",", "9", ",", "1", ",", "4", ",", "4", ",", "8", ",", "6", ",", "8", ",", "1", ",", "2", ",", "8", ",", "6", ",", "7", ",", "1", ",", "8", ",", "7", ",", "6", ",", "9", ",", "4", ",", "6", ",", "4", ",", "1", ",", "8", ",", "9", ",", "9", ",", "4", ",", "6", ",", "3", ",", "1", ",", "0", ",", "1", ",", "4", ",", "7", ",", "8", ",", "1", ",", "0", ",", "4", ",", "6", ",", "5", ",", "6", ",", "4", ",", "2", ",", "8", ",", "8", ",", "0", ",", "3", ",", "8", ",", "6", ",", "6", ",", "1", ",", "2", ",", "8", ",", "7", ",", "6", ",", "8", ",", "6", ",", "0", ",", "4", ",", "2", ",", "2", ",", "7", ",", "9", ",", "4", ",", "3", ",", "2", ",", "7", ",", "7", ",", "5", ",", "1", ",", "5", ",", "5", ",", "6", ",", "6", ",", "2", ",", "7", ",", "2", ",", "0", ",", "3", ",", "7", ",", "2", ",", "5", ",", "7", ",", "1", ",", "2", ",", "8", ",", "6", ",", "6", ",", "7", ",", "8", ",", "1", ",", "0", ",", "0", ",", "1", ",", "9", ",", "7", ",", "8", ",", "7", ",", "1", ",", "2", ",", "6", ",", "1", ",", "8", ",", "4", ",", "2", ",", "6", ",", "5", ",", "1", ",", "5", ",", "7", ",", "7", ",", "7", ",", "3", ",", "3", ",", "0", ",", "8", ",", "7", ",", "9", ",", "9", ",", "8", ",", "9", ",", "8", ",", "3", ",", "3", ",", "1", ",", "9", ",", "9", ",", "1", ",", "9", ",", "2", ",", "5", ",", "2", ",", "2", ",", "7", ",", "8", ",", "7", ",", "3", ",", "0", ",", "2", ",", "3", ",", "4", ",", "8", ",", "6", ",", "4", ",", "2", ",", "8", ",", "8", ",", "0", ",", "8", ",", "9", ",", "3", ",", "1", ",", "1", ",", "0", ",", "9", ",", "5", ",", "1", ",", "3", ",", "7", ",", "4", ",", "8", ",", "7", ",", "3", ",", "7", ",", "8", ",", "0", ",", "1", ",", "1", ",", "9", ",", "4", ",", "3", ",", "9", ",", "7", ",", "3", ",", "4", ",", "1", ",", "8", ",", "5", ",", "2", ",", "9", ",", "1", ",", "6", ",", "8", ",", "6", ",", "3", ",", "2", ",", "1", ",", "4", ",", "8", ",", "9", ",", "7", ",", "9", ",", "2", ",", "1", ",", "6", ",", "8", ",", "9", ",", "0", ",", "2", ",", "3", ",", "9", ",", "6", ",", "1", ",", "4", ",", "0", ",", "2", ",", "2", ",", "2", ",", "3", ",", "5", ",", "5", ",", "4", ",", "0", ",", "2", ",", "7", ",", "8", ",", "2", ",", "5", ",", "9", ",", "3", ",", "9", ",", "5", ",", "0", ",", "5", ",", "2", ",", "8", ",", "5", ",", "7", ",", "5", ",", "2", ",", "3", ",", "5", ",", "4", ",", "2", ",", "9", ",", "4", ",", "1", ",", "0", ",", "7", ",", "0", ",", "7", ",", "3", ",", "1", ",", "3", ",", "8", ",", "8", ",", "3", ",", "2", ",", "2", ",", "1", ",", "4", ",", "8", ",", "8", ",", "3", ",", "9", ",", "7", ",", "4", ",", "2", ",", "6", ",", "4", ",", "8", ",", "1", ",", "6", ",", "3", ",", "3", ",", "2", ",", "3", ",", "0", ",", "2", ",", "0", ",", "0", ",", "3", ",", "8", ",", "9", ",", "1", ",", "7", ",", "7", ",", "5", ",", "5", ",", "2", ",", "7", ",", "6", ",", "7", ",", "7", ",", "0", ",", "2", ",", "8", ",", "1", ",", "5", ",", "0", ",", "7", ",", "9", ",", "3", ",", "9", ",", "6", ",", "8", ",", "7", ",", "1", ",", "3", ",", "6", ",", "8", ",", "4", ",", "7", ",", "8", ",", "2", ",", "9", ",", "8", ",", "9", ",", "2", ",", "3", ",", "9", ",", "4", ",", "8", ",", "8", ",", "9", ",", "4", ",", "7", ",", "1", ",", "3", ",", "9", ",", "2", ",", "4", ",", "8", ",", "8", ",", "2", ",", "8", ",", "1", ",", "3", ",", "2", ",", "3", ",", "6", ",", "6", ",", "4", ",", "7", ",", "5", ",", "3", ",", "9", ",", "2", ",", "0", ",", "8", ",", "2", ",", "9", ",", "9", ",", "0", ",", "5", ",", "5", ",", "3", ",", "5", ",", "5", ",", "6", ",", "7", ",", "0", ",", "3", ",", "0", ",", "6", ",", "5", ",", "8", ",", "7", ",", "0", ",", "4", ",", "3", ",", "9", ",", "7", ",", "7", ",", "1", ",", "2", ",", "2", ",", "8", ",", "8", ",", "4", ",", "3", ",", "1", ",", "8", ",", "7", ",", "2", ",", "7", ",", "2", ",", "6", ",", "5", ",", "6", ",", "4", ",", "7", ",", "8", ",", "0", ",", "6", ",", "6", ",", "2", ",", "3", ",", "0", ",", "3", ",", "3", ",", "7", ",", "2", ",", "6", ",", "9", ",", "7", ",", "6", ",", "4", ",", "8", ",", "5", ",", "5", ",", "9", ",", "3", ",", "7", ",", "9", ",", "5", ",", "3", ",", "1", ",", "1", ",", "9", ",", "2", ",", "4", ",", "8", ",", "1", ",", "7", ",", "3", ",", "5", ",", "9", ",", "8", ",", "5", ",", "6", ",", "6", ",", "5", ",", "7", ",", "5", ",", "7", ",", "4", ",", "5", ",", "6", ",", "1", ",", "2", ",", "7", ",", "9", ",", "0", ",", "6", ",", "0", ",", "2", ",", "3", ",", "9", ",", "8", ",", "7", ",", "4", ",", "3", ",", "1", ",", "2", ",", "4", ",", "9", ",", "7", ",", "4", ",", "8", ",", "3", ",", "0", ",", "3", ",", "2", ",", "7", ",", "7", ",", "0", ",", "0", ",", "7", ",", "2", ",", "0", ",", "6", ",", "0", ",", "2", ",", "9", ",", "2", ",", "6", ",", "5", ",", "7", ",", "8", ",", "9", ",", "8", ",", "3", ",", "4", ",", "7", ",", "2", ",", "0", ",", "0", ",", "7", ",", "5", ",", "9", ",", "9", ",", "6", ",", "7", ",", "5", ",", "2", ",", "7", ",", "4", ",", "2", ",", "9", ",", "6", ",", "6", ",", "3", ",", "1", ",", "2", ",", "0", ",", "8", ",", "3", ",", "2", ",", "8", ",", "0", ",", "5", ",", "1", ",", "0", ",", "9", ",", "1", ",", "6", ",", "3", ",", "1", ",", "3", ",", "7", ",", "7", ",", "5", ",", "7", ",", "4", ",", "4", ",", "4", ",", "1", ",", "9", ",", "2", ",", "6", ",", "7", ",", "1", ",", "3", ",", "6", ",", "2", ",", "5", ",", "8", ",", "2", ",", "4", ",", "0", ",", "7", ",", "4", ",", "3", ",", "6", ",", "7", ",", "4", ",", "9", ",", "4", ",", "9", ",", "5", ",", "0", ",", "5", ",", "1", ",", "0", ",", "0", ",", "9", ",", "1", ",", "4", ",", "8", ",", "2", ",", "9", ",", "6", ",", "7", ",", "5", ",", "3", ",", "5", ",", "0", ",", "8", ",", "3", ",", "4", ",", "0", ",", "7", ",", "5", ",", "8", ",", "5", ",", "9", ",", "4", ",", "0", ",", "2", ",", "7", ",", "1", ",", "9", ",", "9", ",", "6", ",", "1", ",", "2", ",", "8", ",", "5", ",", "7", ",", "8", ",", "5", ",", "0", ",", "4", ",", "9", ",", "6", ",", "7", ",", "6", ",", "6", ",", "5", ",", "6", ",", "2", ",", "6", ",", "8", ",", "0", ",", "9", ",", "7", ",", "3", ",", "3", ",", "3", ",", "4", ",", "6", ",", "5", ",", "9", ",", "0", ",", "1", ",", "6", ",", "8", ",", "9", ",", "3", ",", "3", ",", "9", ",", "2", ",", "0", ",", "2", ",", "1", ",", "0", ",", "0", ",", "8", ",", "7", ",", "6", ",", "3", ",", "4", ",", "4", ",", "9", ",", "7", ",", "5", ",", "8", ",", "5", ",", "1", ",", "5", ",", "2", ",", "3", ",", "6", ",", "2", ",", "0", ",", "9", ",", "1", ",", "3", ",", "0", ",", "3", ",", "3", ",", "6", ",", "9", ",", "4", ",", "2", ",", "0", ",", "2", ",", "3", ",", "1", ",", "9", ",", "0", ",", "2", ",", "5", ",", "2", ",", "0", ",", "8", ",", "6", ",", "0", ",", "9", ",", "8", ",", "8", ",", "8", ",", "3", ",", "1", ",", "4", ",", "5", ",", "0", ",", "3", ",", "0", ",", "4", ",", "5", ",", "4", ",", "9", ",", "2", ",", "8", ",", "2", ",", "1", ",", "9", ",", "0", ",", "8", ",", "2", ",", "2", ",", "3", ",", "2", ",", "5", ",", "6", ",", "3", ",", "1", ",", "5", ",", "1", ",", "9", ",", "0", ",", "4", ",", "6", ",", "4", ",", "4", ",", "8", ",", "3", ",", "8", ",", "9", ",", "9", ",", "3", ",", "9", ",", "9", ",", "2", ",", "2", ",", "1", ",", "7", ",", "3", ",", "8", ",", "7", ",", "6", ",", "9", ",", "0", ",", "4", ",", "2", ",", "7", ",", "8", ",", "4", ",", "9", ",", "3", ",", "1", ",", "3", ",", "6", ",", "1", ",", "3", ",", "7", ",", "8", ",", "0", ",", "5", ",", "7", ",", "3", ",", "3", ",", "2", ",", "8", ",", "9", ",", "4", ",", "8", ",", "6", ",", "6", ",", "9", ",", "4", ",", "2", ",", "5", ",", "7", ",", "9", ",", "3", ",", "8", ",", "2", ",", "5", ",", "6", ",", "9", ",", "3", ",", "4", ",", "3", ",", "3", ",", "2", ",", "0", ",", "0", ",", "4", ",", "7", ",", "7", ",", "5", ",", "9", ",", "5", ",", "5", ",", "6", ",", "9", ",", "4", ",", "9", ",", "3", ",", "1", ",", "5", ",", "3", ",", "1", ",", "5", ",", "3", ",", "2", ",", "2", ",", "3", ",", "4", ",", "4", ",", "7", ",", "5", ",", "0", ",", "5", ",", "4", ",", "3", ",", "3", ",", "2", ",", "1", ",", "4", ",", "1", ",", "8", ",", "5", ",", "1", ",", "7", ",", "7", ",", "7", ",", "8", ",", "6", ",", "5", ",", "2", ",", "3", ",", "2", ",", "1", ",", "3", ",", "1", ",", "0", ",", "2", ",", "0", ",", "9", ",", "8", ",", "6", ",", "5", ",", "3", ",", "4", ",", "6", ",", "6", ",", "7", ",", "5", ",", "8", ",", "1", ",", "4", ",", "8", ",", "1", ",", "4", ",", "5", ",", "7", ",", "2", ",", "1", ",", "9", ",", "1", ",", "7", ",", "1", ",", "4", ",", "5", ",", "9", ",", "8", ",", "3", ",", "1", ",", "3", ",", "8", ",", "6", ",", "3", ",", "0", ",", "0", ",", "0", ",", "6", ",", "7", ",", "4", ",", "3", ",", "4", ",", "3", ",", "6", ",", "5", ",", "0", ",", "9", ",", "0", ",", "9", ",", "4", ",", "2", ",", "8", ",", "4", ",", "1", ",", "7", ",", "3", ",", "9", ",", "7", ",", "6", ",", "5", ",", "2", ",", "8", ",", "0", ",", "8", ",", "3", ",", "8", ",", "6", ",", "2", ",", "3", ",", "3", ",", "0", ",", "8", ",", "0", ",", "2", ",", "9", ",", "7", ",", "7", ",", "1", ",", "4", ",", "7", ",", "3", ",", "8", ",", "2", ",", "0", ",", "1", ",", "6", ",", "2", ",", "4", ",", "1", ",", "5", ",", "1", ",", "2", ",", "7", ",", "2", ",", "0", ",", "3", ",", "1", ",", "6", ",", "0", ",", "4", ",", "4", ",", "5", ",", "5", ",", "6", ",", "6", ",", "5", ",", "1", ",", "7", ",", "7", ",", "0", ",", "8", ",", "6", ",", "3", ",", "5", ",", "8", ",", "4", ",", "4", ",", "8", ",", "2", ",", "6", ",", "3", ",", "8", ",", "1", ",", "2", ",", "9", ",", "4", ",", "3", ",", "7", ",", "4", ",", "2", ",", "9", ",", "4", ",", "0", ",", "1", ",", "4", ",", "7", ",", "8", ",", "0", ",", "3", ",", "1", ",", "2", ",", "0", ",", "8", ",", "5", ",", "6", ",", "5", ",", "7", ",", "6", ",", "3", ",", "9", ",", "8", ",", "7", ",", "1", ",", "2", ",", "4", ",", "2", ",", "4", ",", "2", ",", "2", ",", "3", ",", "2", ",", "3", ",", "3", ",", "2", ",", "5", ",", "7", ",", "5", ",", "5", ",", "1", ",", "0", ",", "6", ",", "2", ",", "2", ",", "3", ",", "6", ",", "3", ",", "3", ",", "4", ",", "2", ",", "1", ",", "8", ",", "4", ",", "2", ",", "8", ",", "7", ",", "6", ",", "1", ",", "2", ",", "2", ",", "5", ",", "9", ",", "7", ",", "1", ",", "5", ",", "2", ",", "8", ",", "6", ",", "5", ",", "5", ",", "1", ",", "7", ",", "2", ",", "6", ",", "5", ",", "7", ",", "8", ",", "3", ",", "3", ",", "5", ",", "8", ",", "6", ",", "4", ",", "8", ",", "0", ",", "0", ",", "4", ",", "2", ",", "6", ",", "3", ",", "2", ",", "8", ",", "3", ",", "1", ",", "6", ",", "8", ",", "4", ",", "8", ",", "9", ",", "3", ",", "8", ",", "3", ",", "3", ",", "6", ",", "5", ",", "3", ",", "4", ",", "9", ",", "0", ",", "3", ",", "4", ",", "2", ",", "8", ",", "1", ",", "9", ",", "8", ",", "0", ",", "6", ",", "6", ",", "5", ",", "7", ",", "9", ",", "3", ",", "0", ",", "3", ",", "9", ",", "2", ",", "9", ",", "1", ",", "1", ",", "3", ",", "2", ",", "7", ",", "7", ",", "6", ",", "8", ",", "2", ",", "8", ",", "9", ",", "0", ",", "6", ",", "2", ",", "5", ",", "1", ",", "6", ",", "5", ",", "7", ",", "9", ",", "2", ",", "1", ",", "2", ",", "1", ",", "3", ",", "8", ",", "2", ",", "9", ",", "9", ",", "8", ",", "0", ",", "4", ",", "7", ",", "3", ",", "6", ",", "3", ",", "8", ",", "4", ",", "4", ",", "3", ",", "9", ",", "7", ",", "1", ",", "5", ",", "0", ",", "1", ",", "3", ",", "4", ",", "7", ",", "0", ",", "6", ",", "9", ",", "6", ",", "2", ",", "1", ",", "1", ",", "2", ",", "3", ",", "2", ",", "0", ",", "9", ",", "8", ",", "8", ",", "2", ",", "9", ",", "4", ",", "8", ",", "1", ",", "7", ",", "9", ",", "7", ",", "8", ",", "2", ",", "6", ",", "2", ",", "5", ",", "6", ",", "1", ",", "5", ",", "7", ",", "4", ",", "4", ",", "4", ",", "4", ",", "0", ",", "1", ",", "4", ",", "9", ",", "1", ",", "5", ",", "4", ",", "4", ",", "7", ",", "1", ",", "8", ",", "3", ",", "3", ",", "8", ",", "6", ",", "9", ",", "4", ",", "4", ",", "0", ",", "6", ",", "6", ",", "9", ",", "4", ",", "2", ",", "8", ",", "5", ",", "6", ",", "7", ",", "2", ",", "3", ",", "2", ",", "2", ",", "9", ",", "9", ",", "7", ",", "6", ",", "1", ",", "4", ",", "0", ",", "2", ",", "4", ",", "4", ",", "7", ",", "2", ",", "2", ",", "7", ",", "5", ",", "5", ",", "4", ",", "1", ",", "9", ",", "0", ",", "9", ",", "4", ",", "1", ",", "8", ",", "6", ",", "9", ",", "6", ",", "3", ",", "6", ",", "4", ",", "9", ",", "5", ",", "1", ",", "0", ",", "4", ",", "0", ",", "4", ",", "6", ",", "7", ",", "1", ",", "6", ",", "3", ",", "3", ",", "1", ",", "5", ",", "3", ",", "7", ",", "7", ",", "4", ",", "4", ",", "7", ",", "4", ",", "3", ",", "5", ",", "5", ",", "9", ",", "6", ",", "3", ",", "3", ",", "3", ",", "6", ",", "8", ",", "3", ",", "5", ",", "7", ",", "2", ",", "7", ",", "6", ",", "4", ",", "3", ",", "1", ",", "6", ",", "8", ",", "8", ",", "4", ",", "9", ",", "5", ",", "9", ",", "1", ",", "0", ",", "4", ",", "8", ",", "5", ",", "7", ",", "5", ",", "7", ",", "1", ",", "8", ",", "2", ",", "3", ",", "1", ",", "5", ",", "1", ",", "9", ",", "7", ",", "9", ",", "0", ",", "3", ",", "9", ",", "3", ",", "2", ",", "5", ",", "1", ",", "9", ",", "9", ",", "9", ",", "9", ",", "4", ",", "8", ",", "7", ",", "4", ",", "2", ",", "4", ",", "9", ",", "3", ",", "4", ",", "6", ",", "7", ",", "9", ",", "0", ",", "0", ",", "3", ",", "6", ",", "9", ",", "8", ",", "1", ",", "8", ",", "1", ",", "9", ",", "1", ",", "5", ",", "1", ",", "3", ",", "5", ",", "2", ",", "4", ",", "8", ",", "8", ",", "7", ",", "8", ",", "0", ",", "3", ",", "0", ",", "6", ",", "9", ",", "4", ",", "5", ",", "9", ",", "3", ",", "8", ",", "8", ",", "7", ",", "9", ",", "7", ",", "9", ",", "7", ",", "6", ",", "7", ",", "5", ",", "5", ",", "4", ",", "0", ",", "9", ",", "9", ",", "1", ",", "0", ",", "7", ",", "5", ",", "9", ",", "7", ",", "8", ",", "0", ",", "2", ",", "0", ",", "2", ",", "4", ",", "4", ",", "0", ",", "4", ",", "7", ",", "5", ",", "1", ",", "9", ",", "7", ",", "1", ",", "2", ",", "6", ",", "7", ",", "4", ",", "1", ",", "5", ",", "8", ",", "6", ",", "8", ",", "6", ",", "6", ",", "1", ",", "9", ",", "4", ",", "4", ",", "9", ",", "9", ",", "7", ",", "6", ",", "8", ",", "4", ",", "9", ",", "3", ",", "6", ",", "6", ",", "1", ",", "1", ",", "9", ",", "6", ",", "9", ",", "1", ",", "9", ",", "2", ",", "5", ",", "1", ",", "5", ",", "6", ",", "0", ",", "1", ",", "1", ",", "2", ",", "1", ",", "1", ",", "6", ",", "8", ",", "6", ",", "6", ",", "9", ",", "1", ",", "6", ",", "1", ",", "3", ",", "2", ",", "2", ",", "5", ",", "4", ",", "2", ",", "6", ",", "0", ",", "2", ",", "2", ",", "5", ",", "0", ",", "1", ",", "2", ",", "5", ",", "4", ",", "7", ",", "2", ",", "4", ",", "8", ",", "6", ",", "5", ",", "0", ",", "8", ",", "1", ",", "0", ",", "8", ",", "1", ",", "4", ",", "3", ",", "9", ",", "0", ",", "6", ",", "3", ",", "7", ",", "3", ",", "4", ",", "5", ",", "6", ",", "0", ",", "9", ",", "7", ",", "3", ",", "1", ",", "5", ",", "7", ",", "8", ",", "0", ",", "3", ",", "2", ",", "9", ",", "3", ",", "0", ",", "3", ",", "3", ",", "1", ",", "6", ",", "4", ",", "0", ",", "6", ",", "9", ",", "4", ",", "9", ",", "9", ",", "1", ",", "9", ",", "6", ",", "7", ",", "3", ",", "3", ",", "3", ",", "5", ",", "8", ",", "8", ",", "9", ",", "3", ",", "6", ",", "9", ",", "1", ",", "7", ",", "1", ",", "5", ",", "8", ",", "4", ",", "2", ",", "3", ",", "8", ",", "7", ",", "1", ",", "3", ",", "4", ",", "0", ",", "7", ",", "5", ",", "5", ",", "5", ",", "1", ",", "4", ",", "4", ",", "2", ",", "7", ",", "8", ",", "1", ",", "9", ",", "3", ",", "1", ",", "5", ",", "9", ",", "6", ",", "0", ",", "6", ",", "4", ",", "7", ",", "2", ",", "1", ",", "2", ",", "3", ",", "2", ",", "4", ",", "5", ",", "6", ",", "1", ",", "5", ",", "0", ",", "1", ",", "2", ",", "7", ",", "2", ",", "5", ",", "7", ",", "6", ",", "9", ",", "9", ",", "5", ",", "9", ",", "4", ",", "5", ",", "4", ",", "1", ",", "4", ",", "0", ",", "3", ",", "9", ",", "9", ",", "1", ",", "0", ",", "4", ",", "5", ",", "4", ",", "7", ",", "7", ",", "1", ",", "0", ",", "3", ",", "5", ",", "3", ",", "5", ",", "0", ",", "9", ",", "9", ",", "7", ",", "8", ",", "9", ",", "3", ",", "0", ",", "2", ",", "0", ",", "5", ",", "3", ",", "1", ",", "3", ",", "4", ",", "0", ",", "2", ",", "6", ",", "4", ",", "6", ",", "4", ",", "7", ",", "4", ",", "1", ",", "8", ",", "4", ",", "8", ",", "6", ",", "1", ",", "1", ",", "0", ",", "2", ",", "3", ",", "0", ",", "5", ",", "1", ",", "9", ",", "2", ",", "1", ",", "0", ",", "9", ",", "3", ",", "0", ",", "0", ",", "4", ",", "4", ",", "7", ",", "5", "]", ",", "[", "67", ",", "66", "]", ")", ";", "const", "c", "=", "tf", ".", "matMul", "(", "a", ",", "b", ")", ";", "const", "cData", "=", "await", "c", ".", "data", "(", ")", ";", "expect", "(", "c", ".", "shape", ")", ".", "toEqual", "(", "[", "65", ",", "66", "]", ")", ";", "test_util", ".", "expectArraysClose", "(", "cData", ",", "[", "1017", ",", "1086", ",", "958", ",", "925", ",", "1117", ",", "1018", ",", "1092", ",", "1180", ",", "1055", ",", "1141", ",", "1061", ",", "970", ",", "1200", ",", "969", ",", "1066", ",", "1007", ",", "1241", ",", "909", ",", "980", ",", "1141", ",", "1084", ",", "889", ",", "971", ",", "1042", ",", "1087", ",", "985", ",", "1019", ",", "929", ",", "1112", ",", "1239", ",", "1155", ",", "966", ",", "984", ",", "1154", ",", "1146", ",", "1117", ",", "1264", ",", "1059", ",", "960", ",", "1265", ",", "1024", ",", "1071", ",", "1288", ",", "1086", ",", "1219", ",", "1070", ",", "1168", ",", "962", ",", "1098", ",", "1041", ",", "937", ",", "1002", ",", "1102", ",", "1110", ",", "940", ",", "1120", ",", "1028", ",", "1062", ",", "1162", ",", "1049", ",", "904", ",", "1065", ",", "1056", ",", "1230", ",", "853", ",", "1013", ",", "1579", ",", "1519", ",", "1552", ",", "1377", ",", "1478", ",", "1375", ",", "1397", ",", "1820", ",", "1672", ",", "1626", ",", "1633", ",", "1374", ",", "1514", ",", "1420", ",", "1371", ",", "1357", ",", "1689", ",", "1346", ",", "1378", ",", "1497", ",", "1424", ",", "1387", ",", "1495", ",", "1601", ",", "1455", ",", "1594", ",", "1716", ",", "1375", ",", "1459", ",", "1523", ",", "1601", ",", "1615", ",", "1583", ",", "1462", ",", "1669", ",", "1600", ",", "1879", ",", "1527", ",", "1370", ",", "1692", ",", "1496", ",", "1541", ",", "1894", ",", "1470", ",", "1784", ",", "1530", ",", "1792", ",", "1410", ",", "1615", ",", "1713", ",", "1465", ",", "1420", ",", "1671", ",", "1637", ",", "1472", ",", "1473", ",", "1421", ",", "1389", ",", "1638", ",", "1330", ",", "1329", ",", "1531", ",", "1475", ",", "1720", ",", "1592", ",", "1416", ",", "1759", ",", "1748", ",", "1467", ",", "1582", ",", "1749", ",", "1484", ",", "1636", ",", "1844", ",", "1601", ",", "1643", ",", "1683", ",", "1514", ",", "1721", ",", "1438", ",", "1580", ",", "1511", ",", "1716", ",", "1480", ",", "1477", ",", "1671", ",", "1765", ",", "1478", ",", "1577", ",", "1617", ",", "1638", ",", "1612", ",", "1633", ",", "1449", ",", "1690", ",", "1733", ",", "1758", ",", "1591", ",", "1810", ",", "1655", ",", "1911", ",", "1447", ",", "1939", ",", "1687", ",", "1401", ",", "1655", ",", "1669", ",", "1624", ",", "2213", ",", "1648", ",", "1867", ",", "1745", ",", "1872", ",", "1551", ",", "1799", ",", "1824", ",", "1505", ",", "1542", ",", "1635", ",", "1826", ",", "1590", ",", "1596", ",", "1598", ",", "1416", ",", "1645", ",", "1470", ",", "1352", ",", "1511", ",", "1773", ",", "1780", ",", "1593", ",", "1534", ",", "1424", ",", "1329", ",", "1326", ",", "1238", ",", "1426", ",", "1276", ",", "1175", ",", "1584", ",", "1398", ",", "1429", ",", "1525", ",", "1254", ",", "1505", ",", "1137", ",", "1213", ",", "1242", ",", "1575", ",", "1174", ",", "1169", ",", "1379", ",", "1433", ",", "1121", ",", "1357", ",", "1371", ",", "1322", ",", "1193", ",", "1412", ",", "1197", ",", "1294", ",", "1392", ",", "1362", ",", "1403", ",", "1576", ",", "1291", ",", "1458", ",", "1340", ",", "1664", ",", "1247", ",", "1186", ",", "1359", ",", "1283", ",", "1290", ",", "1624", ",", "1326", ",", "1520", ",", "1423", ",", "1613", ",", "1339", ",", "1417", ",", "1480", ",", "1399", ",", "1185", ",", "1427", ",", "1356", ",", "1397", ",", "1303", ",", "1248", ",", "1208", ",", "1419", ",", "1125", ",", "1158", ",", "1330", ",", "1203", ",", "1532", ",", "1220", ",", "1325", ",", "1231", ",", "1121", ",", "1095", ",", "974", ",", "1179", ",", "953", ",", "1085", ",", "1392", ",", "1102", ",", "1154", ",", "1314", ",", "1045", ",", "1204", ",", "999", ",", "1059", ",", "1089", ",", "1305", ",", "1053", ",", "973", ",", "1190", ",", "1200", ",", "937", ",", "1097", ",", "1184", ",", "1143", ",", "1131", ",", "1182", ",", "1121", ",", "1219", ",", "1233", ",", "1134", ",", "1251", ",", "1063", ",", "1151", ",", "1209", ",", "1144", ",", "1362", ",", "1261", ",", "1026", ",", "1398", ",", "1007", ",", "1093", ",", "1363", ",", "1082", ",", "1316", ",", "1070", ",", "1237", ",", "1068", ",", "1220", ",", "1238", ",", "1094", ",", "1076", ",", "1152", ",", "1202", ",", "1114", ",", "1221", ",", "1159", ",", "1184", ",", "1200", ",", "983", ",", "905", ",", "1127", ",", "1203", ",", "1310", ",", "924", ",", "1198", ",", "1435", ",", "1411", ",", "1119", ",", "1250", ",", "1485", ",", "1265", ",", "1245", ",", "1584", ",", "1370", ",", "1411", ",", "1452", ",", "1162", ",", "1425", ",", "1150", ",", "1254", ",", "1227", ",", "1508", ",", "1200", ",", "1171", ",", "1468", ",", "1419", ",", "1218", ",", "1239", ",", "1186", ",", "1198", ",", "1255", ",", "1368", ",", "1223", ",", "1478", ",", "1354", ",", "1299", ",", "1267", ",", "1336", ",", "1300", ",", "1620", ",", "1226", ",", "1577", ",", "1435", ",", "1317", ",", "1482", ",", "1259", ",", "1231", ",", "1568", ",", "1326", ",", "1524", ",", "1329", ",", "1477", ",", "1231", ",", "1404", ",", "1388", ",", "1254", ",", "1184", ",", "1301", ",", "1414", ",", "1385", ",", "1393", ",", "1283", ",", "1292", ",", "1357", ",", "1211", ",", "1062", ",", "1243", ",", "1309", ",", "1487", ",", "1240", ",", "1286", ",", "1508", ",", "1506", ",", "1214", ",", "1284", ",", "1419", ",", "1317", ",", "1234", ",", "1545", ",", "1556", ",", "1442", ",", "1439", ",", "1175", ",", "1441", ",", "1304", ",", "1355", ",", "1308", ",", "1519", ",", "1154", ",", "1267", ",", "1275", ",", "1411", ",", "1240", ",", "1460", ",", "1292", ",", "1292", ",", "1197", ",", "1451", ",", "1181", ",", "1371", ",", "1391", ",", "1339", ",", "1293", ",", "1392", ",", "1465", ",", "1514", ",", "1363", ",", "1644", ",", "1279", ",", "1137", ",", "1500", ",", "1311", ",", "1502", ",", "1699", ",", "1402", ",", "1518", ",", "1464", ",", "1522", ",", "1181", ",", "1545", ",", "1604", ",", "1299", ",", "1460", ",", "1273", ",", "1425", ",", "1256", ",", "1251", ",", "1342", ",", "1278", ",", "1416", ",", "1213", ",", "1231", ",", "1246", ",", "1322", ",", "1521", ",", "1200", ",", "1295", ",", "1665", ",", "1411", ",", "1342", ",", "1406", ",", "1607", ",", "1287", ",", "1335", ",", "1776", ",", "1378", ",", "1636", ",", "1504", ",", "1329", ",", "1573", ",", "1227", ",", "1453", ",", "1305", ",", "1655", ",", "1318", ",", "1224", ",", "1443", ",", "1547", ",", "1345", ",", "1425", ",", "1369", ",", "1400", ",", "1191", ",", "1581", ",", "1284", ",", "1484", ",", "1511", ",", "1430", ",", "1342", ",", "1553", ",", "1520", ",", "1580", ",", "1386", ",", "1709", ",", "1419", ",", "1258", ",", "1477", ",", "1379", ",", "1567", ",", "1765", ",", "1446", ",", "1611", ",", "1399", ",", "1693", ",", "1281", ",", "1469", ",", "1561", ",", "1331", ",", "1398", ",", "1403", ",", "1473", ",", "1353", ",", "1394", ",", "1426", ",", "1348", ",", "1403", ",", "1235", ",", "1166", ",", "1333", ",", "1390", ",", "1653", ",", "1174", ",", "1298", ",", "1620", ",", "1389", ",", "1235", ",", "1201", ",", "1390", ",", "1262", ",", "1361", ",", "1576", ",", "1483", ",", "1387", ",", "1324", ",", "1099", ",", "1354", ",", "1125", ",", "1234", ",", "1196", ",", "1394", ",", "1142", ",", "1135", ",", "1366", ",", "1253", ",", "1085", ",", "1226", ",", "1238", ",", "1221", ",", "1155", ",", "1295", ",", "1242", ",", "1355", ",", "1375", ",", "1379", ",", "1277", ",", "1474", ",", "1359", ",", "1552", ",", "1296", ",", "1469", ",", "1220", ",", "1141", ",", "1337", ",", "1206", ",", "1230", ",", "1476", ",", "1198", ",", "1483", ",", "1465", ",", "1536", ",", "1115", ",", "1447", ",", "1378", ",", "1203", ",", "1311", ",", "1280", ",", "1305", ",", "1345", ",", "1361", ",", "1277", ",", "1292", ",", "1220", ",", "1231", ",", "1135", ",", "1270", ",", "1280", ",", "1362", ",", "1185", ",", "1240", ",", "1250", ",", "1243", ",", "1229", ",", "1124", ",", "1187", ",", "1209", ",", "1044", ",", "1315", ",", "1281", ",", "1378", ",", "1319", ",", "1148", ",", "1331", ",", "1043", ",", "1075", ",", "1152", ",", "1410", ",", "1077", ",", "1234", ",", "1224", ",", "1159", ",", "1124", ",", "1192", ",", "1244", ",", "1225", ",", "1205", ",", "1436", ",", "1178", ",", "1158", ",", "1239", ",", "1225", ",", "1214", ",", "1334", ",", "1206", ",", "1427", ",", "1202", ",", "1473", ",", "1268", ",", "1066", ",", "1366", ",", "1225", ",", "1302", ",", "1523", ",", "1167", ",", "1418", ",", "1158", ",", "1397", ",", "1043", ",", "1281", ",", "1254", ",", "1078", ",", "1199", ",", "1326", ",", "1370", ",", "1295", ",", "1212", ",", "1054", ",", "1196", ",", "1233", ",", "1148", ",", "1066", ",", "1250", ",", "1185", ",", "1411", ",", "1196", ",", "1096", ",", "1375", ",", "1351", ",", "1218", ",", "1097", ",", "1459", ",", "1128", ",", "1351", ",", "1564", ",", "1357", ",", "1400", ",", "1371", ",", "1180", ",", "1343", ",", "1277", ",", "1168", ",", "1242", ",", "1487", ",", "1079", ",", "1065", ",", "1292", ",", "1304", ",", "1169", ",", "1262", ",", "1131", ",", "1224", ",", "1213", ",", "1317", ",", "1118", ",", "1298", ",", "1396", ",", "1314", ",", "1160", ",", "1294", ",", "1368", ",", "1568", ",", "1263", ",", "1668", ",", "1198", ",", "981", ",", "1346", ",", "1113", ",", "1362", ",", "1544", ",", "1403", ",", "1545", ",", "1254", ",", "1492", ",", "1206", ",", "1403", ",", "1467", ",", "1234", ",", "1263", ",", "1216", ",", "1249", ",", "1214", ",", "1370", ",", "1332", ",", "1327", ",", "1287", ",", "1101", ",", "1083", ",", "1192", ",", "1464", ",", "1396", ",", "1112", ",", "1380", ",", "1572", ",", "1428", ",", "1350", ",", "1355", ",", "1516", ",", "1294", ",", "1407", ",", "1742", ",", "1510", ",", "1569", ",", "1602", ",", "1191", ",", "1450", ",", "1302", ",", "1421", ",", "1338", ",", "1574", ",", "1213", ",", "1125", ",", "1440", ",", "1362", ",", "1199", ",", "1307", ",", "1322", ",", "1422", ",", "1449", ",", "1479", ",", "1335", ",", "1427", ",", "1526", ",", "1547", ",", "1321", ",", "1502", ",", "1483", ",", "1598", ",", "1440", ",", "1669", ",", "1406", ",", "1233", ",", "1483", ",", "1331", ",", "1409", ",", "1575", ",", "1450", ",", "1561", ",", "1422", ",", "1530", ",", "1231", ",", "1587", ",", "1621", ",", "1258", ",", "1295", ",", "1338", ",", "1465", ",", "1495", ",", "1489", ",", "1454", ",", "1504", ",", "1375", ",", "1264", ",", "1249", ",", "1235", ",", "1371", ",", "1548", ",", "1235", ",", "1260", ",", "1578", ",", "1523", ",", "1356", ",", "1263", ",", "1589", ",", "1304", ",", "1291", ",", "1747", ",", "1575", ",", "1527", ",", "1549", ",", "1407", ",", "1424", ",", "1201", ",", "1369", ",", "1408", ",", "1645", ",", "1203", ",", "1322", ",", "1370", ",", "1488", ",", "1225", ",", "1387", ",", "1362", ",", "1296", ",", "1398", ",", "1553", ",", "1328", ",", "1459", ",", "1621", ",", "1399", ",", "1497", ",", "1568", ",", "1522", ",", "1556", ",", "1517", ",", "1872", ",", "1516", ",", "1257", ",", "1576", ",", "1393", ",", "1467", ",", "1766", ",", "1468", ",", "1617", ",", "1512", ",", "1512", ",", "1312", ",", "1678", ",", "1615", ",", "1444", ",", "1448", ",", "1438", ",", "1550", ",", "1513", ",", "1298", ",", "1487", ",", "1466", ",", "1514", ",", "1263", ",", "1266", ",", "1271", ",", "1474", ",", "1747", ",", "1270", ",", "1418", ",", "1704", ",", "1559", ",", "1474", ",", "1575", ",", "1725", ",", "1490", ",", "1461", ",", "1846", ",", "1711", ",", "1777", ",", "1693", ",", "1471", ",", "1652", ",", "1478", ",", "1447", ",", "1557", ",", "1734", ",", "1361", ",", "1398", ",", "1645", ",", "1604", ",", "1397", ",", "1644", ",", "1460", ",", "1488", ",", "1497", ",", "1639", ",", "1450", ",", "1546", ",", "1625", ",", "1611", ",", "1644", ",", "1671", ",", "1655", ",", "1753", ",", "1536", ",", "1912", ",", "1628", ",", "1449", ",", "1774", ",", "1562", ",", "1618", ",", "1928", ",", "1526", ",", "1843", ",", "1649", ",", "1800", ",", "1510", ",", "1694", ",", "1791", ",", "1477", ",", "1531", ",", "1564", ",", "1718", ",", "1643", ",", "1452", ",", "1569", ",", "1442", ",", "1670", ",", "1525", ",", "1425", ",", "1476", ",", "1623", ",", "1747", ",", "1486", ",", "1595", ",", "1248", ",", "1134", ",", "1095", ",", "972", ",", "1315", ",", "1142", ",", "1148", ",", "1371", ",", "1321", ",", "1256", ",", "1176", ",", "1080", ",", "1188", ",", "1024", ",", "1138", ",", "1098", ",", "1351", ",", "1086", ",", "1039", ",", "1286", ",", "1181", ",", "892", ",", "975", ",", "1051", ",", "1118", ",", "1131", ",", "1258", ",", "1088", ",", "1197", ",", "1231", ",", "1238", ",", "994", ",", "1228", ",", "1203", ",", "1176", ",", "1218", ",", "1446", ",", "1103", ",", "1053", ",", "1160", ",", "1056", ",", "1068", ",", "1314", ",", "1191", ",", "1275", ",", "1269", ",", "1291", ",", "1075", ",", "1228", ",", "1265", ",", "1185", ",", "1204", ",", "1111", ",", "1287", ",", "1124", ",", "1257", ",", "1115", ",", "1196", ",", "1051", ",", "981", ",", "1001", ",", "1261", ",", "1155", ",", "1245", ",", "1051", ",", "1148", ",", "1350", ",", "1655", ",", "1178", ",", "1205", ",", "1437", ",", "1279", ",", "1376", ",", "1558", ",", "1514", ",", "1487", ",", "1483", ",", "1280", ",", "1492", ",", "1181", ",", "1209", ",", "1460", ",", "1621", ",", "1113", ",", "1453", ",", "1345", ",", "1425", ",", "1138", ",", "1307", ",", "1335", ",", "1380", ",", "1369", ",", "1429", ",", "1251", ",", "1365", ",", "1479", ",", "1469", ",", "1342", ",", "1461", ",", "1258", ",", "1722", ",", "1327", ",", "1687", ",", "1380", ",", "1233", ",", "1386", ",", "1341", ",", "1386", ",", "1641", ",", "1441", ",", "1515", ",", "1497", ",", "1570", ",", "1275", ",", "1566", ",", "1550", ",", "1290", ",", "1408", ",", "1483", ",", "1568", ",", "1340", ",", "1378", ",", "1353", ",", "1363", ",", "1272", ",", "1241", ",", "1227", ",", "1266", ",", "1557", ",", "1501", ",", "1354", ",", "1345", ",", "1440", ",", "1161", ",", "1078", ",", "1038", ",", "1201", ",", "1212", ",", "1115", ",", "1370", ",", "1272", ",", "1340", ",", "1242", ",", "1054", ",", "1261", ",", "931", ",", "1079", ",", "1078", ",", "1378", ",", "1039", ",", "1018", ",", "1073", ",", "1285", ",", "991", ",", "1110", ",", "1133", ",", "1119", ",", "997", ",", "1212", ",", "1060", ",", "1122", ",", "1303", ",", "1114", ",", "1206", ",", "1330", ",", "1235", ",", "1266", ",", "1165", ",", "1395", ",", "1046", ",", "1052", ",", "1124", ",", "1183", ",", "1131", ",", "1495", ",", "1132", ",", "1310", ",", "1250", ",", "1293", ",", "1200", ",", "1218", ",", "1193", ",", "1060", ",", "1139", ",", "1208", ",", "1298", ",", "1317", ",", "1053", ",", "1086", ",", "1079", ",", "1120", ",", "1006", ",", "1070", ",", "1108", ",", "1159", ",", "1322", ",", "985", ",", "1136", ",", "1524", ",", "1463", ",", "1256", ",", "1184", ",", "1500", ",", "1327", ",", "1405", ",", "1638", ",", "1388", ",", "1430", ",", "1444", ",", "1176", ",", "1537", ",", "1318", ",", "1180", ",", "1245", ",", "1594", ",", "1107", ",", "1070", ",", "1370", ",", "1322", ",", "1272", ",", "1309", ",", "1325", ",", "1465", ",", "1258", ",", "1487", ",", "1339", ",", "1404", ",", "1587", ",", "1466", ",", "1395", ",", "1427", ",", "1467", ",", "1601", ",", "1377", ",", "1794", ",", "1464", ",", "1106", ",", "1529", ",", "1206", ",", "1482", ",", "1660", ",", "1415", ",", "1680", ",", "1351", ",", "1658", ",", "1304", ",", "1435", ",", "1596", ",", "1260", ",", "1319", ",", "1378", ",", "1387", ",", "1400", ",", "1406", ",", "1397", ",", "1327", ",", "1561", ",", "1345", ",", "1131", ",", "1272", ",", "1510", ",", "1472", ",", "1181", ",", "1443", ",", "1491", ",", "1531", ",", "1197", ",", "1316", ",", "1411", ",", "1354", ",", "1403", ",", "1749", ",", "1527", ",", "1462", ",", "1493", ",", "1290", ",", "1571", ",", "1331", ",", "1162", ",", "1305", ",", "1458", ",", "1271", ",", "1269", ",", "1367", ",", "1448", ",", "1107", ",", "1377", ",", "1314", ",", "1331", ",", "1333", ",", "1375", ",", "1366", ",", "1412", ",", "1537", ",", "1480", ",", "1293", ",", "1423", ",", "1420", ",", "1601", ",", "1243", ",", "1804", ",", "1414", ",", "1279", ",", "1431", ",", "1413", ",", "1392", ",", "1804", ",", "1420", ",", "1630", ",", "1359", ",", "1579", ",", "1302", ",", "1557", ",", "1609", ",", "1430", ",", "1263", ",", "1343", ",", "1480", ",", "1324", ",", "1517", ",", "1437", ",", "1213", ",", "1466", ",", "1322", ",", "1262", ",", "1352", ",", "1555", ",", "1436", ",", "1238", ",", "1477", ",", "1546", ",", "1674", ",", "1285", ",", "1258", ",", "1479", ",", "1313", ",", "1358", ",", "1631", ",", "1482", ",", "1504", ",", "1530", ",", "1354", ",", "1575", ",", "1221", ",", "1376", ",", "1298", ",", "1658", ",", "1189", ",", "1237", ",", "1485", ",", "1489", ",", "1310", ",", "1366", ",", "1486", ",", "1493", ",", "1446", ",", "1520", ",", "1335", ",", "1522", ",", "1539", ",", "1647", ",", "1452", ",", "1474", ",", "1498", ",", "1815", ",", "1379", ",", "1763", ",", "1537", ",", "1363", ",", "1582", ",", "1335", ",", "1341", ",", "1827", ",", "1449", ",", "1611", ",", "1515", ",", "1611", ",", "1328", ",", "1594", ",", "1618", ",", "1361", ",", "1347", ",", "1524", ",", "1630", ",", "1521", ",", "1509", ",", "1447", ",", "1298", ",", "1568", ",", "1349", ",", "1259", ",", "1320", ",", "1590", ",", "1690", ",", "1301", ",", "1392", ",", "1548", ",", "1330", ",", "1358", ",", "1253", ",", "1601", ",", "1308", ",", "1364", ",", "1610", ",", "1476", ",", "1547", ",", "1485", ",", "1290", ",", "1564", ",", "1083", ",", "1348", ",", "1145", ",", "1482", ",", "1172", ",", "1212", ",", "1272", ",", "1545", ",", "1226", ",", "1316", ",", "1378", ",", "1328", ",", "1273", ",", "1417", ",", "1211", ",", "1304", ",", "1404", ",", "1395", ",", "1335", ",", "1530", ",", "1552", ",", "1600", ",", "1395", ",", "1528", ",", "1330", ",", "1260", ",", "1402", ",", "1288", ",", "1405", ",", "1762", ",", "1336", ",", "1495", ",", "1487", ",", "1400", ",", "1337", ",", "1521", ",", "1490", ",", "1204", ",", "1326", ",", "1362", ",", "1521", ",", "1447", ",", "1251", ",", "1320", ",", "1343", ",", "1483", ",", "1258", ",", "1073", ",", "1324", ",", "1438", ",", "1557", ",", "1247", ",", "1255", ",", "1541", ",", "1590", ",", "1368", ",", "1439", ",", "1673", ",", "1432", ",", "1545", ",", "1754", ",", "1526", ",", "1555", ",", "1574", ",", "1355", ",", "1641", ",", "1368", ",", "1523", ",", "1466", ",", "1738", ",", "1378", ",", "1319", ",", "1694", ",", "1605", ",", "1289", ",", "1527", ",", "1396", ",", "1491", ",", "1268", ",", "1520", ",", "1423", ",", "1547", ",", "1672", ",", "1586", ",", "1487", ",", "1640", ",", "1597", ",", "1761", ",", "1497", ",", "1831", ",", "1477", ",", "1291", ",", "1750", ",", "1398", ",", "1467", ",", "1912", ",", "1509", ",", "1732", ",", "1555", ",", "1734", ",", "1354", ",", "1625", ",", "1596", ",", "1400", ",", "1428", ",", "1588", ",", "1584", ",", "1557", ",", "1535", ",", "1529", ",", "1450", ",", "1563", ",", "1544", ",", "1309", ",", "1516", ",", "1582", ",", "1660", ",", "1412", ",", "1317", ",", "1238", ",", "1298", ",", "1211", ",", "1321", ",", "1435", ",", "1212", ",", "1218", ",", "1685", ",", "1275", ",", "1379", ",", "1385", ",", "1214", ",", "1436", ",", "1289", ",", "1298", ",", "1102", ",", "1498", ",", "1175", ",", "1127", ",", "1497", ",", "1508", ",", "1267", ",", "1307", ",", "1357", ",", "1330", ",", "1335", ",", "1438", ",", "1127", ",", "1374", ",", "1441", ",", "1279", ",", "1375", ",", "1413", ",", "1289", ",", "1377", ",", "1323", ",", "1622", ",", "1468", ",", "1121", ",", "1406", ",", "1389", ",", "1246", ",", "1665", ",", "1427", ",", "1511", ",", "1402", ",", "1584", ",", "1283", ",", "1393", ",", "1325", ",", "1158", ",", "1219", ",", "1421", ",", "1358", ",", "1380", ",", "1430", ",", "1261", ",", "1234", ",", "1448", ",", "1066", ",", "1037", ",", "1192", ",", "1370", ",", "1480", ",", "1300", ",", "1296", ",", "1378", ",", "1382", ",", "1300", ",", "1243", ",", "1254", ",", "1325", ",", "1216", ",", "1541", ",", "1417", ",", "1472", ",", "1382", ",", "1139", ",", "1390", ",", "1134", ",", "1231", ",", "1234", ",", "1539", ",", "1151", ",", "1300", ",", "1322", ",", "1408", ",", "1149", ",", "1190", ",", "1198", ",", "1321", ",", "1288", ",", "1522", ",", "1226", ",", "1310", ",", "1471", ",", "1408", ",", "1253", ",", "1301", ",", "1401", ",", "1563", ",", "1203", ",", "1568", ",", "1376", ",", "1231", ",", "1465", ",", "1256", ",", "1250", ",", "1565", ",", "1369", ",", "1517", ",", "1334", ",", "1501", ",", "1121", ",", "1494", ",", "1462", ",", "1191", ",", "1292", ",", "1257", ",", "1490", ",", "1300", ",", "1374", ",", "1312", ",", "1330", ",", "1414", ",", "1261", ",", "1144", ",", "1370", ",", "1345", ",", "1485", ",", "1256", ",", "1217", ",", "1326", ",", "1396", ",", "1122", ",", "1061", ",", "1434", ",", "1331", ",", "1255", ",", "1483", ",", "1400", ",", "1373", ",", "1299", ",", "1049", ",", "1382", ",", "1213", ",", "1148", ",", "1297", ",", "1493", ",", "1072", ",", "1131", ",", "1346", ",", "1333", ",", "1124", ",", "1228", ",", "1302", ",", "1303", ",", "1364", ",", "1332", ",", "1205", ",", "1225", ",", "1497", ",", "1301", ",", "1323", ",", "1370", ",", "1245", ",", "1595", ",", "1253", ",", "1561", ",", "1303", ",", "1146", ",", "1298", ",", "1197", ",", "1275", ",", "1478", ",", "1258", ",", "1444", ",", "1447", ",", "1529", ",", "1252", ",", "1429", ",", "1345", ",", "1255", ",", "1269", ",", "1344", ",", "1373", ",", "1341", ",", "1393", ",", "1265", ",", "1255", ",", "1267", ",", "1192", ",", "1081", ",", "1266", ",", "1280", ",", "1393", ",", "1233", ",", "1315", ",", "1449", ",", "1368", ",", "1300", ",", "1266", ",", "1373", ",", "1245", ",", "1280", ",", "1623", ",", "1384", ",", "1554", ",", "1432", ",", "1176", ",", "1451", ",", "1283", ",", "1370", ",", "1104", ",", "1390", ",", "1101", ",", "1143", ",", "1336", ",", "1441", ",", "1339", ",", "1422", ",", "1415", ",", "1483", ",", "1312", ",", "1499", ",", "1260", ",", "1257", ",", "1384", ",", "1324", ",", "1351", ",", "1391", ",", "1392", ",", "1474", ",", "1338", ",", "1513", ",", "1310", ",", "1147", ",", "1528", ",", "1253", ",", "1241", ",", "1701", ",", "1310", ",", "1501", ",", "1409", ",", "1467", ",", "1155", ",", "1400", ",", "1499", ",", "1203", ",", "1231", ",", "1252", ",", "1378", ",", "1335", ",", "1333", ",", "1238", ",", "1188", ",", "1423", ",", "1209", ",", "1105", ",", "1304", ",", "1452", ",", "1556", ",", "1258", ",", "1178", ",", "1272", ",", "1456", ",", "1125", ",", "1095", ",", "1353", ",", "1133", ",", "1121", ",", "1383", ",", "1313", ",", "1381", ",", "1451", ",", "1144", ",", "1380", ",", "1146", ",", "1012", ",", "1212", ",", "1417", ",", "1018", ",", "1085", ",", "1287", ",", "1239", ",", "1032", ",", "1191", ",", "1217", ",", "1283", ",", "1199", ",", "1366", ",", "1226", ",", "1288", ",", "1428", ",", "1415", ",", "1169", ",", "1331", ",", "1280", ",", "1396", ",", "1245", ",", "1596", ",", "1280", ",", "1146", ",", "1361", ",", "1268", ",", "1253", ",", "1551", ",", "1302", ",", "1338", ",", "1246", ",", "1431", ",", "1130", ",", "1486", ",", "1373", ",", "1185", ",", "1241", ",", "1189", ",", "1384", ",", "1184", ",", "1296", ",", "1352", ",", "1259", ",", "1363", ",", "1177", ",", "1050", ",", "1180", ",", "1210", ",", "1436", ",", "1114", ",", "1256", ",", "1632", ",", "1461", ",", "1415", ",", "1322", ",", "1474", ",", "1415", ",", "1471", ",", "1916", ",", "1663", ",", "1626", ",", "1569", ",", "1387", ",", "1541", ",", "1310", ",", "1530", ",", "1386", ",", "1726", ",", "1309", ",", "1341", ",", "1427", ",", "1481", ",", "1333", ",", "1438", ",", "1519", ",", "1468", ",", "1545", ",", "1523", ",", "1466", ",", "1426", ",", "1619", ",", "1545", ",", "1535", ",", "1585", ",", "1446", ",", "1656", ",", "1575", ",", "1943", ",", "1491", ",", "1364", ",", "1645", ",", "1397", ",", "1431", ",", "1841", ",", "1485", ",", "1650", ",", "1508", ",", "1649", ",", "1436", ",", "1559", ",", "1813", ",", "1608", ",", "1347", ",", "1557", ",", "1641", ",", "1586", ",", "1569", ",", "1463", ",", "1450", ",", "1587", ",", "1246", ",", "1373", ",", "1437", ",", "1516", ",", "1746", ",", "1383", ",", "1616", ",", "1719", ",", "1645", ",", "1450", ",", "1405", ",", "1522", ",", "1454", ",", "1419", ",", "1883", ",", "1583", ",", "1691", ",", "1617", ",", "1492", ",", "1800", ",", "1442", ",", "1633", ",", "1457", ",", "1722", ",", "1304", ",", "1379", ",", "1552", ",", "1825", ",", "1495", ",", "1611", ",", "1524", ",", "1519", ",", "1485", ",", "1752", ",", "1437", ",", "1532", ",", "1630", ",", "1553", ",", "1544", ",", "1653", ",", "1736", ",", "1781", ",", "1452", ",", "1795", ",", "1614", ",", "1389", ",", "1532", ",", "1589", ",", "1568", ",", "2020", ",", "1577", ",", "1753", ",", "1714", ",", "1848", ",", "1433", ",", "1722", ",", "1693", ",", "1430", ",", "1602", ",", "1618", ",", "1739", ",", "1640", ",", "1563", ",", "1544", ",", "1501", ",", "1522", ",", "1388", ",", "1409", ",", "1443", ",", "1634", ",", "1807", ",", "1467", ",", "1484", ",", "1611", ",", "1589", ",", "1547", ",", "1421", ",", "1635", ",", "1359", ",", "1402", ",", "1797", ",", "1567", ",", "1662", ",", "1769", ",", "1438", ",", "1587", ",", "1414", ",", "1611", ",", "1496", ",", "1788", ",", "1359", ",", "1363", ",", "1486", ",", "1676", ",", "1319", ",", "1491", ",", "1553", ",", "1557", ",", "1430", ",", "1785", ",", "1403", ",", "1576", ",", "1666", ",", "1585", ",", "1495", ",", "1540", ",", "1595", ",", "1742", ",", "1432", ",", "1890", ",", "1444", ",", "1354", ",", "1781", ",", "1362", ",", "1530", ",", "1879", ",", "1630", ",", "1769", ",", "1504", ",", "1661", ",", "1296", ",", "1730", ",", "1593", ",", "1382", ",", "1456", ",", "1566", ",", "1629", ",", "1566", ",", "1626", ",", "1519", ",", "1559", ",", "1449", ",", "1407", ",", "1258", ",", "1467", ",", "1503", ",", "1766", ",", "1416", ",", "1372", ",", "1406", ",", "1337", ",", "1185", ",", "1092", ",", "1354", ",", "1131", ",", "1090", ",", "1465", ",", "1212", ",", "1393", ",", "1363", ",", "1183", ",", "1386", ",", "1217", ",", "1246", ",", "1043", ",", "1421", ",", "1150", ",", "1052", ",", "1209", ",", "1351", ",", "1155", ",", "1181", ",", "1267", ",", "1228", ",", "1126", ",", "1332", ",", "1168", ",", "1278", ",", "1209", ",", "1325", ",", "1155", ",", "1323", ",", "1338", ",", "1342", ",", "1149", ",", "1574", ",", "1166", ",", "1163", ",", "1313", ",", "1215", ",", "1266", ",", "1658", ",", "1260", ",", "1380", ",", "1296", ",", "1346", ",", "1250", ",", "1385", ",", "1203", ",", "1165", ",", "1255", ",", "1282", ",", "1291", ",", "1228", ",", "1304", ",", "1202", ",", "1134", ",", "1277", ",", "1069", ",", "1009", ",", "1166", ",", "1271", ",", "1434", ",", "1057", ",", "1104", ",", "1301", ",", "1347", ",", "1176", ",", "1160", ",", "1377", ",", "1129", ",", "1359", ",", "1574", ",", "1328", ",", "1359", ",", "1261", ",", "1018", ",", "1411", ",", "1174", ",", "1305", ",", "1218", ",", "1485", ",", "1083", ",", "1120", ",", "1398", ",", "1329", ",", "1168", ",", "1258", ",", "1314", ",", "1389", ",", "1347", ",", "1352", ",", "1224", ",", "1391", ",", "1404", ",", "1494", ",", "1281", ",", "1342", ",", "1323", ",", "1454", ",", "1148", ",", "1570", ",", "1355", ",", "1211", ",", "1519", ",", "1106", ",", "1106", ",", "1605", ",", "1237", ",", "1521", ",", "1431", ",", "1500", ",", "1200", ",", "1494", ",", "1460", ",", "1194", ",", "1169", ",", "1304", ",", "1362", ",", "1353", ",", "1263", ",", "1203", ",", "1143", ",", "1354", ",", "1293", ",", "1149", ",", "1347", ",", "1392", ",", "1470", ",", "1250", ",", "1270", ",", "1505", ",", "1545", ",", "1340", ",", "1220", ",", "1514", ",", "1245", ",", "1442", ",", "1607", ",", "1501", ",", "1546", ",", "1570", ",", "1300", ",", "1454", ",", "1279", ",", "1390", ",", "1392", ",", "1654", ",", "1325", ",", "1183", ",", "1435", ",", "1576", ",", "1125", ",", "1301", ",", "1327", ",", "1337", ",", "1381", ",", "1455", ",", "1303", ",", "1410", ",", "1497", ",", "1569", ",", "1474", ",", "1412", ",", "1591", ",", "1595", ",", "1312", ",", "1751", ",", "1441", ",", "1255", ",", "1485", ",", "1367", ",", "1321", ",", "1703", ",", "1422", ",", "1537", ",", "1376", ",", "1543", ",", "1323", ",", "1657", ",", "1503", ",", "1385", ",", "1307", ",", "1384", ",", "1494", ",", "1471", ",", "1495", ",", "1454", ",", "1313", ",", "1436", ",", "1347", ",", "1163", ",", "1447", ",", "1509", ",", "1579", ",", "1248", ",", "1342", ",", "1489", ",", "1378", ",", "1253", ",", "1272", ",", "1442", ",", "1287", ",", "1278", ",", "1624", ",", "1429", ",", "1389", ",", "1398", ",", "1172", ",", "1462", ",", "1345", ",", "1301", ",", "1217", ",", "1510", ",", "1282", ",", "1106", ",", "1457", ",", "1433", ",", "1176", ",", "1341", ",", "1331", ",", "1331", ",", "1343", ",", "1397", ",", "1347", ",", "1405", ",", "1457", ",", "1459", ",", "1389", ",", "1471", ",", "1406", ",", "1566", ",", "1489", ",", "1645", ",", "1404", ",", "1204", ",", "1511", ",", "1294", ",", "1417", ",", "1751", ",", "1263", ",", "1530", ",", "1434", ",", "1563", ",", "1356", ",", "1530", ",", "1583", ",", "1384", ",", "1389", ",", "1468", ",", "1443", ",", "1278", ",", "1315", ",", "1451", ",", "1237", ",", "1422", ",", "1206", ",", "1191", ",", "1331", ",", "1358", ",", "1641", ",", "1187", ",", "1236", ",", "1272", ",", "1202", ",", "1111", ",", "1073", ",", "1256", ",", "943", ",", "1118", ",", "1375", ",", "1158", ",", "1163", ",", "1271", ",", "1059", ",", "1342", ",", "1032", ",", "1034", ",", "1015", ",", "1248", ",", "1014", ",", "969", ",", "1202", ",", "1144", ",", "991", ",", "1162", ",", "1228", ",", "1217", ",", "1029", ",", "1290", ",", "1125", ",", "1158", ",", "1129", ",", "1188", ",", "1146", ",", "1292", ",", "1183", ",", "1315", ",", "1054", ",", "1359", ",", "1128", ",", "901", ",", "1336", ",", "1102", ",", "1160", ",", "1476", ",", "1138", ",", "1284", ",", "1212", ",", "1441", ",", "1017", ",", "1244", ",", "1276", ",", "1090", ",", "1198", ",", "1154", ",", "1278", ",", "1107", ",", "1167", ",", "1162", ",", "951", ",", "1171", ",", "1062", ",", "1044", ",", "1045", ",", "1155", ",", "1273", ",", "1056", ",", "1253", ",", "1536", ",", "1525", ",", "1348", ",", "1385", ",", "1478", ",", "1268", ",", "1375", ",", "1726", ",", "1509", ",", "1669", ",", "1621", ",", "1462", ",", "1534", ",", "1350", ",", "1497", ",", "1311", ",", "1606", ",", "1205", ",", "1390", ",", "1567", ",", "1582", ",", "1373", ",", "1628", ",", "1604", ",", "1285", ",", "1410", ",", "1569", ",", "1298", ",", "1349", ",", "1452", ",", "1515", ",", "1627", ",", "1557", ",", "1517", ",", "1667", ",", "1411", ",", "1847", ",", "1610", ",", "1296", ",", "1620", ",", "1490", ",", "1511", ",", "1895", ",", "1504", ",", "1609", ",", "1448", ",", "1630", ",", "1247", ",", "1726", ",", "1654", ",", "1439", ",", "1375", ",", "1584", ",", "1561", ",", "1569", ",", "1634", ",", "1442", ",", "1329", ",", "1621", ",", "1432", ",", "1246", ",", "1413", ",", "1500", ",", "1752", ",", "1393", ",", "1406", ",", "1240", ",", "1157", ",", "1171", ",", "1294", ",", "1313", ",", "1073", ",", "1179", ",", "1589", ",", "1288", ",", "1423", ",", "1360", ",", "1112", ",", "1350", ",", "1178", ",", "1357", ",", "1113", ",", "1422", ",", "1147", ",", "1118", ",", "1353", ",", "1242", ",", "1059", ",", "1270", ",", "1228", ",", "1201", ",", "1245", ",", "1297", ",", "1008", ",", "1256", ",", "1346", ",", "1245", ",", "1179", ",", "1345", ",", "1368", ",", "1385", ",", "1191", ",", "1517", ",", "1296", ",", "1145", ",", "1336", ",", "1273", ",", "1191", ",", "1502", ",", "1384", ",", "1391", ",", "1262", ",", "1523", ",", "1224", ",", "1417", ",", "1361", ",", "1173", ",", "972", ",", "1294", ",", "1239", ",", "1282", ",", "1329", ",", "1195", ",", "1104", ",", "1351", ",", "1162", ",", "1115", ",", "1133", ",", "1235", ",", "1430", ",", "1156", ",", "1067", ",", "1250", ",", "1201", ",", "1268", ",", "1283", ",", "1299", ",", "1070", ",", "1086", ",", "1462", ",", "1265", ",", "1336", ",", "1417", ",", "1296", ",", "1300", ",", "1233", ",", "1302", ",", "1236", ",", "1427", ",", "1185", ",", "1142", ",", "1433", ",", "1299", ",", "1114", ",", "1425", ",", "1298", ",", "1116", ",", "1263", ",", "1457", ",", "1220", ",", "1211", ",", "1165", ",", "1303", ",", "1307", ",", "1263", ",", "1221", ",", "1380", ",", "1134", ",", "1596", ",", "1255", ",", "1248", ",", "1396", ",", "1298", ",", "1255", ",", "1556", ",", "1321", ",", "1302", ",", "1222", ",", "1442", ",", "1120", ",", "1424", ",", "1448", ",", "1300", ",", "1109", ",", "1366", ",", "1358", ",", "1339", ",", "1408", ",", "1270", ",", "1225", ",", "1403", ",", "1122", ",", "1072", ",", "1253", ",", "1169", ",", "1420", ",", "1233", ",", "1154", ",", "1368", ",", "1426", ",", "1245", ",", "1048", ",", "1401", ",", "1242", ",", "1266", ",", "1481", ",", "1397", ",", "1321", ",", "1256", ",", "1221", ",", "1433", ",", "1103", ",", "1123", ",", "1238", ",", "1465", ",", "1067", ",", "1243", ",", "1320", ",", "1220", ",", "1097", ",", "1172", ",", "1234", ",", "1334", ",", "1312", ",", "1503", ",", "1281", ",", "1276", ",", "1348", ",", "1453", ",", "1178", ",", "1479", ",", "1304", ",", "1441", ",", "1257", ",", "1602", ",", "1284", ",", "1166", ",", "1415", ",", "1283", ",", "1277", ",", "1613", ",", "1311", ",", "1495", ",", "1455", ",", "1409", ",", "1056", ",", "1500", ",", "1419", ",", "1311", ",", "1347", ",", "1309", ",", "1413", ",", "1325", ",", "1232", ",", "1239", ",", "1177", ",", "1244", ",", "1154", ",", "1129", ",", "1286", ",", "1262", ",", "1394", ",", "1245", ",", "1139", ",", "1707", ",", "1657", ",", "1377", ",", "1465", ",", "1391", ",", "1324", ",", "1401", ",", "1842", ",", "1617", ",", "1663", ",", "1545", ",", "1338", ",", "1506", ",", "1325", ",", "1483", ",", "1395", ",", "1627", ",", "1353", ",", "1336", ",", "1422", ",", "1585", ",", "1300", ",", "1451", ",", "1407", ",", "1435", ",", "1416", ",", "1544", ",", "1432", ",", "1506", ",", "1646", ",", "1604", ",", "1475", ",", "1611", ",", "1519", ",", "1689", ",", "1300", ",", "1840", ",", "1557", ",", "1299", ",", "1537", ",", "1513", ",", "1452", ",", "1859", ",", "1569", ",", "1827", ",", "1640", ",", "1769", ",", "1358", ",", "1543", ",", "1728", ",", "1411", ",", "1316", ",", "1479", ",", "1572", ",", "1553", ",", "1438", ",", "1506", ",", "1269", ",", "1560", ",", "1387", ",", "1420", ",", "1294", ",", "1472", ",", "1660", ",", "1415", ",", "1370", ",", "1492", ",", "1410", ",", "1263", ",", "1313", ",", "1665", ",", "1278", ",", "1329", ",", "1687", ",", "1492", ",", "1574", ",", "1431", ",", "1245", ",", "1518", ",", "1314", ",", "1449", ",", "1300", ",", "1586", ",", "1203", ",", "1134", ",", "1458", ",", "1571", ",", "1264", ",", "1307", ",", "1403", ",", "1494", ",", "1402", ",", "1546", ",", "1279", ",", "1434", ",", "1504", ",", "1590", ",", "1362", ",", "1458", ",", "1481", ",", "1734", ",", "1388", ",", "1758", ",", "1511", ",", "1298", ",", "1546", ",", "1265", ",", "1427", ",", "1734", ",", "1461", ",", "1594", ",", "1440", ",", "1542", ",", "1272", ",", "1520", ",", "1660", ",", "1308", ",", "1293", ",", "1431", ",", "1508", ",", "1523", ",", "1487", ",", "1499", ",", "1330", ",", "1447", ",", "1320", ",", "1113", ",", "1380", ",", "1420", ",", "1625", ",", "1469", ",", "1385", ",", "1410", ",", "1520", ",", "1232", ",", "1170", ",", "1427", ",", "1109", ",", "1281", ",", "1567", ",", "1371", ",", "1503", ",", "1385", ",", "1274", ",", "1453", ",", "1228", ",", "1350", ",", "1230", ",", "1557", ",", "1212", ",", "1208", ",", "1482", ",", "1421", ",", "1137", ",", "1228", ",", "1440", ",", "1329", ",", "1361", ",", "1463", ",", "1402", ",", "1336", ",", "1410", ",", "1456", ",", "1391", ",", "1366", ",", "1475", ",", "1673", ",", "1258", ",", "1577", ",", "1436", ",", "1195", ",", "1546", ",", "1275", ",", "1346", ",", "1699", ",", "1387", ",", "1456", ",", "1327", ",", "1510", ",", "1195", ",", "1467", ",", "1419", ",", "1208", ",", "1280", ",", "1413", ",", "1493", ",", "1463", ",", "1540", ",", "1445", ",", "1251", ",", "1335", ",", "1187", ",", "1071", ",", "1364", ",", "1387", ",", "1599", ",", "1273", ",", "1263", ",", "1522", ",", "1385", ",", "1268", ",", "1340", ",", "1510", ",", "1267", ",", "1283", ",", "1559", ",", "1429", ",", "1447", ",", "1563", ",", "1152", ",", "1455", ",", "1100", ",", "1255", ",", "1308", ",", "1508", ",", "1304", ",", "1175", ",", "1278", ",", "1372", ",", "1083", ",", "1236", ",", "1424", ",", "1273", ",", "1169", ",", "1540", ",", "1263", ",", "1473", ",", "1487", ",", "1466", ",", "1315", ",", "1535", ",", "1383", ",", "1545", ",", "1344", ",", "1636", ",", "1303", ",", "1225", ",", "1402", ",", "1262", ",", "1322", ",", "1717", ",", "1223", ",", "1510", ",", "1482", ",", "1598", ",", "1234", ",", "1599", ",", "1397", ",", "1262", ",", "1408", ",", "1330", ",", "1399", ",", "1354", ",", "1337", ",", "1278", ",", "1282", ",", "1297", ",", "1331", ",", "1092", ",", "1186", ",", "1297", ",", "1409", ",", "1264", ",", "1330", ",", "1232", ",", "1201", ",", "984", ",", "1019", ",", "1146", ",", "996", ",", "963", ",", "1329", ",", "1181", ",", "1239", ",", "1177", ",", "972", ",", "1150", ",", "1087", ",", "1042", ",", "1056", ",", "1201", ",", "1006", ",", "929", ",", "1144", ",", "1170", ",", "1049", ",", "1058", ",", "1128", ",", "1024", ",", "1219", ",", "1219", ",", "1007", ",", "1104", ",", "1219", ",", "1149", ",", "1097", ",", "1197", ",", "1311", ",", "1254", ",", "1061", ",", "1378", ",", "1164", ",", "836", ",", "1294", ",", "1110", ",", "1146", ",", "1510", ",", "1129", ",", "1325", ",", "1160", ",", "1190", ",", "1000", ",", "1327", ",", "1143", ",", "1033", ",", "1101", ",", "1103", ",", "1214", ",", "1206", ",", "1056", ",", "1146", ",", "998", ",", "1111", ",", "1002", ",", "929", ",", "987", ",", "1226", ",", "1343", ",", "1015", ",", "966", ",", "1361", ",", "1307", ",", "1148", ",", "1274", ",", "1428", ",", "1312", ",", "1165", ",", "1505", ",", "1407", ",", "1348", ",", "1288", ",", "1118", ",", "1335", ",", "1191", ",", "1258", ",", "1232", ",", "1487", ",", "1072", ",", "1174", ",", "1287", ",", "1389", ",", "1219", ",", "1257", ",", "1296", ",", "1311", ",", "1343", ",", "1396", ",", "1261", ",", "1258", ",", "1489", ",", "1249", ",", "1410", ",", "1405", ",", "1150", ",", "1504", ",", "1331", ",", "1612", ",", "1316", ",", "1050", ",", "1450", ",", "1231", ",", "1326", ",", "1589", ",", "1251", ",", "1512", ",", "1411", ",", "1482", ",", "1198", ",", "1433", ",", "1429", ",", "1249", ",", "1337", ",", "1218", ",", "1426", ",", "1365", ",", "1257", ",", "1296", ",", "1219", ",", "1299", ",", "1203", ",", "1103", ",", "1207", ",", "1410", ",", "1473", ",", "1257", ",", "1278", ",", "1234", ",", "1158", ",", "1162", ",", "984", ",", "1187", ",", "1163", ",", "1142", ",", "1360", ",", "1207", ",", "1173", ",", "1058", ",", "1164", ",", "1287", ",", "927", ",", "1099", ",", "1142", ",", "1279", ",", "1023", ",", "1036", ",", "1177", ",", "1197", ",", "1067", ",", "1135", ",", "1255", ",", "1183", ",", "1159", ",", "1151", ",", "1012", ",", "1097", ",", "1124", ",", "1157", ",", "1130", ",", "1189", ",", "1230", ",", "1232", ",", "1233", ",", "1442", ",", "1113", ",", "992", ",", "1331", ",", "1178", ",", "1195", ",", "1454", ",", "1201", ",", "1348", ",", "1138", ",", "1298", ",", "992", ",", "1154", ",", "1209", ",", "1066", ",", "1188", ",", "1305", ",", "1215", ",", "1188", ",", "1221", ",", "1104", ",", "1053", ",", "1191", ",", "1002", ",", "968", ",", "1131", ",", "1140", ",", "1302", ",", "1052", ",", "1055", ",", "1579", ",", "1537", ",", "1246", ",", "1301", ",", "1496", ",", "1260", ",", "1336", ",", "1718", ",", "1460", ",", "1499", ",", "1491", ",", "1246", ",", "1512", ",", "1275", ",", "1439", ",", "1351", ",", "1648", ",", "1175", ",", "1188", ",", "1337", ",", "1471", ",", "1236", ",", "1371", ",", "1454", ",", "1359", ",", "1368", ",", "1394", ",", "1346", ",", "1493", ",", "1608", ",", "1488", ",", "1526", ",", "1476", ",", "1547", ",", "1576", ",", "1289", ",", "1795", ",", "1563", ",", "1278", ",", "1619", ",", "1290", ",", "1455", ",", "1834", ",", "1285", ",", "1598", ",", "1462", ",", "1533", ",", "1292", ",", "1649", ",", "1571", ",", "1284", ",", "1440", ",", "1353", ",", "1424", ",", "1636", ",", "1414", ",", "1432", ",", "1337", ",", "1446", ",", "1345", ",", "1230", ",", "1322", ",", "1538", ",", "1550", ",", "1210", ",", "1393", ",", "1463", ",", "1526", ",", "1243", ",", "1299", ",", "1427", ",", "1263", ",", "1319", ",", "1546", ",", "1461", ",", "1499", ",", "1497", ",", "1269", ",", "1379", ",", "1281", ",", "1331", ",", "1223", ",", "1534", ",", "1171", ",", "1248", ",", "1352", ",", "1486", ",", "1169", ",", "1395", ",", "1347", ",", "1247", ",", "1324", ",", "1472", ",", "1367", ",", "1384", ",", "1425", ",", "1496", ",", "1567", ",", "1531", ",", "1475", ",", "1484", ",", "1288", ",", "1716", ",", "1412", ",", "1208", ",", "1424", ",", "1239", ",", "1289", ",", "1703", ",", "1298", ",", "1482", ",", "1542", ",", "1553", ",", "1273", ",", "1643", ",", "1560", ",", "1259", ",", "1406", ",", "1347", ",", "1607", ",", "1532", ",", "1294", ",", "1294", ",", "1212", ",", "1447", ",", "1322", ",", "1250", ",", "1340", ",", "1445", ",", "1578", ",", "1303", ",", "1296", ",", "1555", ",", "1566", ",", "1232", ",", "1283", ",", "1518", ",", "1393", ",", "1293", ",", "1631", ",", "1575", ",", "1520", ",", "1523", ",", "1184", ",", "1416", ",", "1279", ",", "1344", ",", "1293", ",", "1574", ",", "1270", ",", "1229", ",", "1286", ",", "1449", ",", "1368", ",", "1471", ",", "1482", ",", "1449", ",", "1443", ",", "1552", ",", "1430", ",", "1420", ",", "1368", ",", "1455", ",", "1511", ",", "1476", ",", "1268", ",", "1685", ",", "1437", ",", "1921", ",", "1412", ",", "1299", ",", "1643", ",", "1257", ",", "1430", ",", "1818", ",", "1447", ",", "1685", ",", "1381", ",", "1608", ",", "1158", ",", "1562", ",", "1625", ",", "1354", ",", "1363", ",", "1320", ",", "1504", ",", "1482", ",", "1507", ",", "1359", ",", "1260", ",", "1560", ",", "1369", ",", "1225", ",", "1434", ",", "1425", ",", "1659", ",", "1419", ",", "1419", ",", "1531", ",", "1696", ",", "1102", ",", "1243", ",", "1486", ",", "1364", ",", "1261", ",", "1619", ",", "1443", ",", "1455", ",", "1517", ",", "1151", ",", "1503", ",", "1255", ",", "1215", ",", "1286", ",", "1515", ",", "1283", ",", "1136", ",", "1332", ",", "1478", ",", "1104", ",", "1301", ",", "1333", ",", "1390", ",", "1355", ",", "1434", ",", "1335", ",", "1396", ",", "1486", ",", "1485", ",", "1231", ",", "1476", ",", "1414", ",", "1738", ",", "1286", ",", "1749", ",", "1386", ",", "1224", ",", "1433", ",", "1375", ",", "1349", ",", "1649", ",", "1449", ",", "1520", ",", "1401", ",", "1656", ",", "1209", ",", "1498", ",", "1343", ",", "1317", ",", "1336", ",", "1263", ",", "1528", ",", "1376", ",", "1468", ",", "1399", ",", "1337", ",", "1427", ",", "1354", ",", "1205", ",", "1263", ",", "1390", ",", "1507", ",", "1324", ",", "1346", ",", "1366", ",", "1368", ",", "1219", ",", "1130", ",", "1323", ",", "1177", ",", "1246", ",", "1517", ",", "1321", ",", "1418", ",", "1329", ",", "1211", ",", "1279", ",", "1151", ",", "1384", ",", "1083", ",", "1433", ",", "1181", ",", "1126", ",", "1336", ",", "1451", ",", "1116", ",", "1312", ",", "1242", ",", "1306", ",", "1255", ",", "1264", ",", "1142", ",", "1303", ",", "1344", ",", "1346", ",", "1160", ",", "1334", ",", "1351", ",", "1458", ",", "1305", ",", "1604", ",", "1304", ",", "1164", ",", "1377", ",", "1258", ",", "1199", ",", "1555", ",", "1351", ",", "1427", ",", "1311", ",", "1388", ",", "1140", ",", "1359", ",", "1326", ",", "1176", ",", "1116", ",", "1304", ",", "1309", ",", "1432", ",", "1466", ",", "1236", ",", "1194", ",", "1362", ",", "1096", ",", "1196", ",", "1276", ",", "1203", ",", "1529", ",", "1063", ",", "1233", ",", "1412", ",", "1333", ",", "1315", ",", "1207", ",", "1375", ",", "1122", ",", "1180", ",", "1513", ",", "1390", ",", "1444", ",", "1399", ",", "1305", ",", "1355", ",", "1109", ",", "1248", ",", "1330", ",", "1534", ",", "1252", ",", "1190", ",", "1368", ",", "1317", ",", "1090", ",", "1336", ",", "1314", ",", "1246", ",", "1181", ",", "1440", ",", "1177", ",", "1324", ",", "1375", ",", "1347", ",", "1255", ",", "1365", ",", "1412", ",", "1473", ",", "1271", ",", "1590", ",", "1248", ",", "1194", ",", "1526", ",", "1368", ",", "1279", ",", "1705", ",", "1348", ",", "1472", ",", "1277", ",", "1476", ",", "1153", ",", "1481", ",", "1412", ",", "1320", ",", "1215", ",", "1227", ",", "1384", ",", "1251", ",", "1251", ",", "1242", ",", "1229", ",", "1497", ",", "1190", ",", "1134", ",", "1347", ",", "1318", ",", "1524", ",", "1238", ",", "1294", ",", "1437", ",", "1465", ",", "1218", ",", "1282", ",", "1365", ",", "1284", ",", "1280", ",", "1539", ",", "1428", ",", "1407", ",", "1296", ",", "1229", ",", "1463", ",", "1299", ",", "1215", ",", "1230", ",", "1509", ",", "1138", ",", "1244", ",", "1448", ",", "1432", ",", "1125", ",", "1389", ",", "1249", ",", "1351", ",", "1250", ",", "1424", ",", "1177", ",", "1318", ",", "1447", ",", "1283", ",", "1307", ",", "1461", ",", "1400", ",", "1494", ",", "1221", ",", "1643", ",", "1325", ",", "1123", ",", "1467", ",", "1290", ",", "1322", ",", "1627", ",", "1380", ",", "1476", ",", "1307", ",", "1565", ",", "1210", ",", "1401", ",", "1396", ",", "1286", ",", "1246", ",", "1317", ",", "1374", ",", "1363", ",", "1357", ",", "1284", ",", "1163", ",", "1432", ",", "1145", ",", "1215", ",", "1406", ",", "1461", ",", "1522", ",", "1199", ",", "1286", ",", "1266", ",", "1313", ",", "1081", ",", "1091", ",", "1227", ",", "1095", ",", "1082", ",", "1344", ",", "1166", ",", "1319", ",", "1199", ",", "1105", ",", "1274", ",", "1183", ",", "1232", ",", "1097", ",", "1437", ",", "1075", ",", "1039", ",", "1225", ",", "1245", ",", "1038", ",", "1117", ",", "1212", ",", "1236", ",", "1148", ",", "1352", ",", "1136", ",", "1265", ",", "1296", ",", "1282", ",", "1183", ",", "1152", ",", "1325", ",", "1395", ",", "1119", ",", "1471", ",", "1202", ",", "1132", ",", "1296", ",", "1170", ",", "1209", ",", "1496", ",", "1208", ",", "1306", ",", "1151", ",", "1417", ",", "1165", ",", "1274", ",", "1249", ",", "998", ",", "1132", ",", "1150", ",", "1326", ",", "1201", ",", "1348", ",", "1186", ",", "1155", ",", "1250", ",", "1129", ",", "1044", ",", "1185", ",", "1204", ",", "1450", ",", "1142", ",", "1174", ",", "1708", ",", "1579", ",", "1418", ",", "1431", ",", "1637", ",", "1474", ",", "1386", ",", "1708", ",", "1633", ",", "1650", ",", "1654", ",", "1333", ",", "1540", ",", "1327", ",", "1383", ",", "1312", ",", "1789", ",", "1259", ",", "1333", ",", "1449", ",", "1590", ",", "1277", ",", "1367", ",", "1499", ",", "1490", ",", "1379", ",", "1642", ",", "1351", ",", "1473", ",", "1700", ",", "1496", ",", "1524", ",", "1631", ",", "1453", ",", "1683", ",", "1451", ",", "1699", ",", "1543", ",", "1288", ",", "1647", ",", "1415", ",", "1455", ",", "1704", ",", "1494", ",", "1672", ",", "1532", ",", "1664", ",", "1409", ",", "1554", ",", "1592", ",", "1340", ",", "1373", ",", "1481", ",", "1706", ",", "1544", ",", "1521", ",", "1514", ",", "1439", ",", "1579", ",", "1368", ",", "1332", ",", "1494", ",", "1468", ",", "1620", ",", "1355", ",", "1405", ",", "1692", ",", "1700", ",", "1486", ",", "1480", ",", "1806", ",", "1522", ",", "1557", ",", "1823", ",", "1703", ",", "1790", ",", "1883", ",", "1414", ",", "1765", ",", "1355", ",", "1531", ",", "1542", ",", "1806", ",", "1318", ",", "1570", ",", "1560", ",", "1795", ",", "1430", ",", "1576", ",", "1619", ",", "1663", ",", "1551", ",", "1613", ",", "1422", ",", "1530", ",", "1734", ",", "1738", ",", "1571", ",", "1743", ",", "1592", ",", "1891", ",", "1502", ",", "1942", ",", "1586", ",", "1521", ",", "1624", ",", "1463", ",", "1502", ",", "1952", ",", "1580", ",", "1751", ",", "1784", ",", "1820", ",", "1606", ",", "1829", ",", "1805", ",", "1601", ",", "1425", ",", "1716", ",", "1821", ",", "1640", ",", "1581", ",", "1562", ",", "1546", ",", "1563", ",", "1641", ",", "1328", ",", "1494", ",", "1700", ",", "1806", ",", "1567", ",", "1569", ",", "1447", ",", "1238", ",", "1155", ",", "1199", ",", "1268", ",", "1088", ",", "1217", ",", "1544", ",", "1316", ",", "1332", ",", "1333", ",", "1164", ",", "1339", ",", "1135", ",", "1184", ",", "1154", ",", "1342", ",", "1146", ",", "1156", ",", "1226", ",", "1242", ",", "1085", ",", "1201", ",", "1226", ",", "1192", ",", "1252", ",", "1302", ",", "1121", ",", "1303", ",", "1295", ",", "1380", ",", "1249", ",", "1291", ",", "1232", ",", "1395", ",", "1161", ",", "1563", ",", "1369", ",", "1117", ",", "1195", ",", "1288", ",", "1256", ",", "1551", ",", "1153", ",", "1506", ",", "1254", ",", "1555", ",", "1219", ",", "1320", ",", "1408", ",", "1265", ",", "1034", ",", "1219", ",", "1345", ",", "1255", ",", "1242", ",", "1200", ",", "1096", ",", "1412", ",", "1127", ",", "1209", ",", "1253", ",", "1339", ",", "1436", ",", "1226", ",", "1177", ",", "1449", ",", "1488", ",", "1239", ",", "1163", ",", "1459", ",", "1295", ",", "1434", ",", "1414", ",", "1402", ",", "1489", ",", "1337", ",", "1173", ",", "1321", ",", "1226", ",", "1360", ",", "1292", ",", "1522", ",", "1112", ",", "1288", ",", "1372", ",", "1330", ",", "1216", ",", "1324", ",", "1272", ",", "1371", ",", "1398", ",", "1436", ",", "1276", ",", "1260", ",", "1459", ",", "1530", ",", "1236", ",", "1491", ",", "1399", ",", "1588", ",", "1221", ",", "1686", ",", "1401", ",", "1257", ",", "1407", ",", "1130", ",", "1322", ",", "1580", ",", "1292", ",", "1491", ",", "1409", ",", "1470", ",", "1201", ",", "1534", ",", "1527", ",", "1281", ",", "1287", ",", "1376", ",", "1490", ",", "1402", ",", "1442", ",", "1272", ",", "1255", ",", "1311", ",", "1409", ",", "1143", ",", "1352", ",", "1431", ",", "1555", ",", "1234", ",", "1191", ",", "1341", ",", "1206", ",", "1169", ",", "1179", ",", "1426", ",", "1222", ",", "1235", ",", "1566", ",", "1237", ",", "1410", ",", "1442", ",", "1143", ",", "1339", ",", "1115", ",", "1274", ",", "1323", ",", "1555", ",", "1135", ",", "1102", ",", "1279", ",", "1277", ",", "1113", ",", "1267", ",", "1226", ",", "1243", ",", "1276", ",", "1297", ",", "1188", ",", "1203", ",", "1373", ",", "1252", ",", "1263", ",", "1323", ",", "1333", ",", "1398", ",", "1284", ",", "1662", ",", "1244", ",", "1115", ",", "1416", ",", "1191", ",", "1322", ",", "1535", ",", "1319", ",", "1415", ",", "1155", ",", "1415", ",", "1267", ",", "1371", ",", "1429", ",", "1189", ",", "1224", ",", "1212", ",", "1377", ",", "1378", ",", "1334", ",", "1331", ",", "1271", ",", "1235", ",", "1187", ",", "1064", ",", "1171", ",", "1333", ",", "1473", ",", "1134", ",", "1220", ",", "1592", ",", "1529", ",", "1386", ",", "1437", ",", "1543", ",", "1418", ",", "1423", ",", "1742", ",", "1590", ",", "1687", ",", "1604", ",", "1302", ",", "1567", ",", "1287", ",", "1299", ",", "1281", ",", "1536", ",", "1403", ",", "1353", ",", "1352", ",", "1502", ",", "1325", ",", "1422", ",", "1499", ",", "1447", ",", "1350", ",", "1647", ",", "1499", ",", "1578", ",", "1529", ",", "1581", ",", "1429", ",", "1600", ",", "1461", ",", "1599", ",", "1519", ",", "1728", ",", "1372", ",", "1300", ",", "1684", ",", "1394", ",", "1555", ",", "1914", ",", "1459", ",", "1677", ",", "1555", ",", "1644", ",", "1115", ",", "1657", ",", "1588", ",", "1263", ",", "1475", ",", "1417", ",", "1547", ",", "1309", ",", "1357", ",", "1379", ",", "1428", ",", "1466", ",", "1383", ",", "1189", ",", "1446", ",", "1399", ",", "1601", ",", "1362", ",", "1292", ",", "1243", ",", "1332", ",", "1139", ",", "1040", ",", "1241", ",", "1272", ",", "1185", ",", "1448", ",", "1242", ",", "1319", ",", "1317", ",", "1027", ",", "1398", ",", "1068", ",", "1168", ",", "1157", ",", "1443", ",", "942", ",", "1070", ",", "1196", ",", "1218", ",", "1161", ",", "1217", ",", "1127", ",", "1279", ",", "1128", ",", "1313", ",", "1212", ",", "1145", ",", "1388", ",", "1349", ",", "1206", ",", "1277", ",", "1323", ",", "1454", ",", "1238", ",", "1656", ",", "1206", ",", "1063", ",", "1342", ",", "1165", ",", "1187", ",", "1459", ",", "1255", ",", "1448", ",", "1219", ",", "1453", ",", "1120", ",", "1383", ",", "1316", ",", "1258", ",", "1203", ",", "1214", ",", "1292", ",", "1300", ",", "1219", ",", "1250", ",", "1176", ",", "1283", ",", "1266", ",", "1012", ",", "1167", ",", "1228", ",", "1390", ",", "1104", ",", "1080", ",", "1470", ",", "1543", ",", "1305", ",", "1416", ",", "1610", ",", "1364", ",", "1374", ",", "1670", ",", "1606", ",", "1678", ",", "1648", ",", "1409", ",", "1593", ",", "1392", ",", "1395", ",", "1445", ",", "1721", ",", "1255", ",", "1479", ",", "1643", ",", "1629", ",", "1384", ",", "1537", ",", "1521", ",", "1502", ",", "1499", ",", "1546", ",", "1373", ",", "1536", ",", "1714", ",", "1550", ",", "1528", ",", "1584", ",", "1494", ",", "1729", ",", "1532", ",", "1746", ",", "1698", ",", "1435", ",", "1656", ",", "1511", ",", "1556", ",", "1842", ",", "1476", ",", "1681", ",", "1523", ",", "1729", ",", "1313", ",", "1658", ",", "1629", ",", "1486", ",", "1329", ",", "1611", ",", "1682", ",", "1546", ",", "1539", ",", "1543", ",", "1401", ",", "1497", ",", "1395", ",", "1289", ",", "1419", ",", "1530", ",", "1754", ",", "1438", ",", "1507", ",", "1497", ",", "1526", ",", "1234", ",", "1248", ",", "1584", ",", "1325", ",", "1324", ",", "1619", ",", "1346", ",", "1517", ",", "1615", ",", "1066", ",", "1484", ",", "1226", ",", "1263", ",", "1220", ",", "1529", ",", "1252", ",", "1106", ",", "1380", ",", "1432", ",", "1038", ",", "1318", ",", "1453", ",", "1424", ",", "1348", ",", "1527", ",", "1373", ",", "1444", ",", "1498", ",", "1440", ",", "1401", ",", "1495", ",", "1456", ",", "1565", ",", "1394", ",", "1617", ",", "1386", ",", "1207", ",", "1602", ",", "1272", ",", "1291", ",", "1664", ",", "1363", ",", "1476", ",", "1329", ",", "1545", ",", "1301", ",", "1480", ",", "1300", ",", "1084", ",", "1281", ",", "1342", ",", "1481", ",", "1473", ",", "1423", ",", "1385", ",", "1349", ",", "1426", ",", "1303", ",", "1166", ",", "1293", ",", "1393", ",", "1520", ",", "1253", ",", "1365", ",", "1679", ",", "1597", ",", "1419", ",", "1337", ",", "1438", ",", "1364", ",", "1396", ",", "1821", ",", "1586", ",", "1580", ",", "1537", ",", "1285", ",", "1580", ",", "1269", ",", "1246", ",", "1364", ",", "1607", ",", "1272", ",", "1351", ",", "1503", ",", "1378", ",", "1211", ",", "1363", ",", "1419", ",", "1447", ",", "1383", ",", "1556", ",", "1393", ",", "1467", ",", "1652", ",", "1626", ",", "1461", ",", "1487", ",", "1555", ",", "1600", ",", "1402", ",", "1798", ",", "1397", ",", "1191", ",", "1467", ",", "1488", ",", "1423", ",", "1715", ",", "1407", ",", "1730", ",", "1639", ",", "1720", ",", "1395", ",", "1584", ",", "1628", ",", "1438", ",", "1493", ",", "1380", ",", "1516", ",", "1384", ",", "1385", ",", "1454", ",", "1433", ",", "1489", ",", "1295", ",", "1279", ",", "1375", ",", "1481", ",", "1587", ",", "1311", ",", "1414", ",", "1316", ",", "1458", ",", "1177", ",", "1206", ",", "1404", ",", "1185", ",", "1172", ",", "1516", ",", "1389", ",", "1400", ",", "1466", ",", "1256", ",", "1398", ",", "1235", ",", "1235", ",", "1363", ",", "1604", ",", "1178", ",", "1142", ",", "1250", ",", "1410", ",", "1141", ",", "1289", ",", "1417", ",", "1268", ",", "1381", ",", "1399", ",", "1276", ",", "1308", ",", "1426", ",", "1502", ",", "1389", ",", "1282", ",", "1317", ",", "1560", ",", "1305", ",", "1742", ",", "1300", ",", "1216", ",", "1397", ",", "1255", ",", "1352", ",", "1747", ",", "1263", ",", "1471", ",", "1287", ",", "1396", ",", "1297", ",", "1534", ",", "1502", ",", "1306", ",", "1252", ",", "1380", ",", "1464", ",", "1356", ",", "1397", ",", "1359", ",", "1291", ",", "1445", ",", "1183", ",", "1164", ",", "1281", ",", "1375", ",", "1472", ",", "1217", ",", "1327", "]", ")", ";", "}", ")", ";", "it", "(", "'matMul MatMulPackedVec4Program outputShape[1] > 1'", ",", "async", "(", ")", "=>", "{", "const", "a", "=", "tf", ".", "tensor3d", "(", "[", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", "]", ",", "[", "1", ",", "32", ",", "4", "]", ")", ";", "const", "b", "=", "tf", ".", "tensor3d", "(", "[", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", "]", ",", "[", "1", ",", "4", ",", "32", "]", ")", ";", "const", "c", "=", "tf", ".", "matMul", "(", "a", ",", "b", ")", ";", "expect", "(", "c", ".", "shape", ")", ".", "toEqual", "(", "[", "1", ",", "32", ",", "32", "]", ")", ";", "test_util", ".", "expectArraysClose", "(", "await", "c", ".", "data", "(", ")", ",", "[", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "41", ",", "41", ",", "42", ",", "11", ",", "14", ",", "13", ",", "8", ",", "52", ",", "64", ",", "62", ",", "31", ",", "9", ",", "19", ",", "15", ",", "8", ",", "36", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "49", ",", "53", ",", "52", ",", "9", ",", "16", ",", "15", ",", "8", ",", "60", ",", "74", ",", "68", ",", "17", ",", "9", ",", "21", ",", "15", ",", "8", ",", "20", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "135", ",", "127", ",", "87", ",", "30", ",", "43", ",", "36", ",", "22", ",", "110", ",", "139", ",", "133", ",", "92", ",", "29", ",", "44", ",", "37", ",", "22", ",", "114", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "90", ",", "98", ",", "93", ",", "15", ",", "29", ",", "27", ",", "14", ",", "106", ",", "131", ",", "119", ",", "25", ",", "16", ",", "37", ",", "26", ",", "14", ",", "30", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "184", ",", "185", ",", "109", ",", "24", ",", "55", ",", "45", ",", "23", ",", "123", ",", "158", ",", "137", ",", "50", ",", "33", ",", "48", ",", "36", ",", "23", ",", "71", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "48", ",", "49", ",", "37", ",", "8", ",", "15", ",", "13", ",", "7", ",", "43", ",", "54", ",", "49", ",", "18", ",", "9", ",", "16", ",", "12", ",", "7", ",", "23", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "41", ",", "41", ",", "42", ",", "11", ",", "14", ",", "13", ",", "8", ",", "52", ",", "64", ",", "62", ",", "31", ",", "9", ",", "19", ",", "15", ",", "8", ",", "36", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "49", ",", "53", ",", "52", ",", "9", ",", "16", ",", "15", ",", "8", ",", "60", ",", "74", ",", "68", ",", "17", ",", "9", ",", "21", ",", "15", ",", "8", ",", "20", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "135", ",", "127", ",", "87", ",", "30", ",", "43", ",", "36", ",", "22", ",", "110", ",", "139", ",", "133", ",", "92", ",", "29", ",", "44", ",", "37", ",", "22", ",", "114", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "90", ",", "98", ",", "93", ",", "15", ",", "29", ",", "27", ",", "14", ",", "106", ",", "131", ",", "119", ",", "25", ",", "16", ",", "37", ",", "26", ",", "14", ",", "30", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "184", ",", "185", ",", "109", ",", "24", ",", "55", ",", "45", ",", "23", ",", "123", ",", "158", ",", "137", ",", "50", ",", "33", ",", "48", ",", "36", ",", "23", ",", "71", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "48", ",", "49", ",", "37", ",", "8", ",", "15", ",", "13", ",", "7", ",", "43", ",", "54", ",", "49", ",", "18", ",", "9", ",", "16", ",", "12", ",", "7", ",", "23", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "41", ",", "41", ",", "42", ",", "11", ",", "14", ",", "13", ",", "8", ",", "52", ",", "64", ",", "62", ",", "31", ",", "9", ",", "19", ",", "15", ",", "8", ",", "36", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "49", ",", "53", ",", "52", ",", "9", ",", "16", ",", "15", ",", "8", ",", "60", ",", "74", ",", "68", ",", "17", ",", "9", ",", "21", ",", "15", ",", "8", ",", "20", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "135", ",", "127", ",", "87", ",", "30", ",", "43", ",", "36", ",", "22", ",", "110", ",", "139", ",", "133", ",", "92", ",", "29", ",", "44", ",", "37", ",", "22", ",", "114", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "90", ",", "98", ",", "93", ",", "15", ",", "29", ",", "27", ",", "14", ",", "106", ",", "131", ",", "119", ",", "25", ",", "16", ",", "37", ",", "26", ",", "14", ",", "30", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "184", ",", "185", ",", "109", ",", "24", ",", "55", ",", "45", ",", "23", ",", "123", ",", "158", ",", "137", ",", "50", ",", "33", ",", "48", ",", "36", ",", "23", ",", "71", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "48", ",", "49", ",", "37", ",", "8", ",", "15", ",", "13", ",", "7", ",", "43", ",", "54", ",", "49", ",", "18", ",", "9", ",", "16", ",", "12", ",", "7", ",", "23", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "41", ",", "41", ",", "42", ",", "11", ",", "14", ",", "13", ",", "8", ",", "52", ",", "64", ",", "62", ",", "31", ",", "9", ",", "19", ",", "15", ",", "8", ",", "36", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "49", ",", "53", ",", "52", ",", "9", ",", "16", ",", "15", ",", "8", ",", "60", ",", "74", ",", "68", ",", "17", ",", "9", ",", "21", ",", "15", ",", "8", ",", "20", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "135", ",", "127", ",", "87", ",", "30", ",", "43", ",", "36", ",", "22", ",", "110", ",", "139", ",", "133", ",", "92", ",", "29", ",", "44", ",", "37", ",", "22", ",", "114", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "90", ",", "98", ",", "93", ",", "15", ",", "29", ",", "27", ",", "14", ",", "106", ",", "131", ",", "119", ",", "25", ",", "16", ",", "37", ",", "26", ",", "14", ",", "30", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "184", ",", "185", ",", "109", ",", "24", ",", "55", ",", "45", ",", "23", ",", "123", ",", "158", ",", "137", ",", "50", ",", "33", ",", "48", ",", "36", ",", "23", ",", "71", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "48", ",", "49", ",", "37", ",", "8", ",", "15", ",", "13", ",", "7", ",", "43", ",", "54", ",", "49", ",", "18", ",", "9", ",", "16", ",", "12", ",", "7", ",", "23", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "41", ",", "41", ",", "42", ",", "11", ",", "14", ",", "13", ",", "8", ",", "52", ",", "64", ",", "62", ",", "31", ",", "9", ",", "19", ",", "15", ",", "8", ",", "36", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "49", ",", "53", ",", "52", ",", "9", ",", "16", ",", "15", ",", "8", ",", "60", ",", "74", ",", "68", ",", "17", ",", "9", ",", "21", ",", "15", ",", "8", ",", "20", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "135", ",", "127", ",", "87", ",", "30", ",", "43", ",", "36", ",", "22", ",", "110", ",", "139", ",", "133", ",", "92", ",", "29", ",", "44", ",", "37", ",", "22", ",", "114", ",", "144", ",", "136", ",", "85", ",", "29", ",", "45", ",", "37", ",", "22", ",", "106", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "90", ",", "98", ",", "93", ",", "15", ",", "29", ",", "27", ",", "14", ",", "106", ",", "131", ",", "119", ",", "25", ",", "16", ",", "37", ",", "26", ",", "14", ",", "30", ",", "45", ",", "35", ",", "50", ",", "25", ",", "18", ",", "17", ",", "14", ",", "74", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "184", ",", "185", ",", "109", ",", "24", ",", "55", ",", "45", ",", "23", ",", "123", ",", "158", ",", "137", ",", "50", ",", "33", ",", "48", ",", "36", ",", "23", ",", "71", ",", "95", ",", "92", ",", "117", ",", "35", ",", "35", ",", "34", ",", "23", ",", "151", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "48", ",", "49", ",", "37", ",", "8", ",", "15", ",", "13", ",", "7", ",", "43", ",", "54", ",", "49", ",", "18", ",", "9", ",", "16", ",", "12", ",", "7", ",", "23", ",", "31", ",", "28", ",", "29", ",", "11", ",", "11", ",", "10", ",", "7", ",", "39", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "41", ",", "41", ",", "42", ",", "11", ",", "14", ",", "13", ",", "8", ",", "52", ",", "64", ",", "62", ",", "31", ",", "9", ",", "19", ",", "15", ",", "8", ",", "36", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", ",", "49", ",", "53", ",", "52", ",", "9", ",", "16", ",", "15", ",", "8", ",", "60", ",", "74", ",", "68", ",", "17", ",", "9", ",", "21", ",", "15", ",", "8", ",", "20", ",", "29", ",", "23", ",", "27", ",", "14", ",", "11", ",", "10", ",", "8", ",", "40", "]", ")", ";", "}", ")", ";", "it", "(", "'matMul MatMulPackedVec4Program outputShape[1] == 1'", ",", "async", "(", ")", "=>", "{", "const", "a", "=", "tf", ".", "tensor3d", "(", "[", "2", ",", "1", ",", "3", ",", "2", "]", ",", "[", "1", ",", "1", ",", "4", "]", ")", ";", "const", "b", "=", "tf", ".", "tensor3d", "(", "[", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", ",", "6", ",", "7", ",", "8", ",", "1", ",", "2", ",", "2", ",", "1", ",", "9", ",", "11", ",", "10", ",", "1", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "2", ",", "1", ",", "3", ",", "2", ",", "1", ",", "1", ",", "1", ",", "5", "]", ",", "[", "1", ",", "4", ",", "32", "]", ")", ";", "const", "c", "=", "tf", ".", "matMul", "(", "a", ",", "b", ")", ";", "expect", "(", "c", ".", "shape", ")", ".", "toEqual", "(", "[", "1", ",", "1", ",", "32", "]", ")", ";", "test_util", ".", "expectArraysClose", "(", "await", "c", ".", "data", "(", ")", ",", "[", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", ",", "41", ",", "41", ",", "42", ",", "11", ",", "14", ",", "13", ",", "8", ",", "52", ",", "64", ",", "62", ",", "31", ",", "9", ",", "19", ",", "15", ",", "8", ",", "36", ",", "47", ",", "41", ",", "23", ",", "12", ",", "15", ",", "12", ",", "8", ",", "32", "]", ")", ";", "}", ")", ";", "}", ")", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 84, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658192
[ "license", "import", "'./index'", ";", "import", "'@tensorflow/tfjs-core/dist/public/chained_ops/register_all_chained_ops'", ";", "import", "'@tensorflow/tfjs-core/dist/register_all_gradients'", ";", "import", "'./backend_webgpu_test_registry'", ";", "import", "{", "parseTestEnvFromKarmaFlags", ",", "setTestEnvs", ",", "setupTestFilters", ",", "TEST_ENVS", ",", "TestFilter", "}", "from", "'@tensorflow/tfjs-core/dist/jasmine_util'", ";", "const", "TEST_FILTERS", "=", "[", "{", "include", ":", "'5D'", ",", "excludes", ":", "[", "'webgpu '", "]", ",", "}", ",", "{", "include", ":", "'6D'", ",", "excludes", ":", "[", "'webgpu '", "]", ",", "}", ",", "{", "include", ":", "'gradients webgpu'", ",", "excludes", ":", "[", "'webgpu '", "]", ",", "}", ",", "{", "startsWith", ":", "'abs '", ",", "excludes", ":", "[", "'complex64'", ",", "'gradient'", ",", "]", "}", ",", "{", "startsWith", ":", "'avgPool '", ",", "excludes", ":", "[", "'gradient'", ",", "]", "}", ",", "{", "startsWith", ":", "'batchToSpaceND '", ",", "excludes", ":", "[", "'tensor3d'", ",", "'tensor4d'", ",", "'gradient'", ",", "'accepts a tensor-like object'", ",", "]", "}", ",", "{", "startsWith", ":", "'concat '", ",", "excludes", ":", "[", "'concat a large number of tensors'", ",", "]", "}", ",", "{", "startsWith", ":", "'conv2d '", ",", "excludes", ":", "[", "'NCHW'", ",", "'gradient'", ",", "]", "}", ",", "{", "startsWith", ":", "'einsum '", ",", "excludes", ":", "[", "'4d tensors'", ",", "'4d tensor and 3d tensor'", ",", "]", "}", ",", "{", "startsWith", ":", "'elu '", ",", "excludes", ":", "[", "'selu'", ",", "'derivative'", ",", "'gradient'", "]", "}", ",", "{", "startsWith", ":", "'exp '", ",", "excludes", ":", "[", "'int32'", ",", "]", "}", ",", "{", "startsWith", ":", "'fused conv2d '", ",", "excludes", ":", "[", "'gradient x=[2,3,3,1] f=[2,2,1,1] s=1 p=0'", ",", "'backProp'", ",", "'leakyrelu'", ",", "]", "}", ",", "{", "startsWith", ":", "'fused depthwiseConv2D '", ",", "excludes", ":", "[", "'gradient'", ",", "'leakyrelu'", ",", "]", "}", ",", "{", "startsWith", ":", "'fused matmul '", ",", "excludes", ":", "[", "'leakyrelu'", ",", "'gradient'", ",", "]", "}", ",", "{", "startsWith", ":", "'gather '", ",", "excludes", ":", "[", "'throws when index is out of bound'", ",", "'gradient'", "]", "}", ",", "{", "startsWith", ":", "'matmul'", ",", "excludes", ":", "[", "'has zero in its shape'", ",", "'valueAndGradients'", ",", "'upcasts when dtypes dont match'", ",", "'broadcast'", ",", "]", "}", ",", "{", "startsWith", ":", "'maxPool '", ",", "excludes", ":", "[", "'maxPoolBackprop'", ",", "'maxPool3d'", ",", "'maxPoolWithArgmax'", "]", "}", ",", "{", "startsWith", ":", "'max '", ",", "excludes", ":", "[", "'AdamaxOptimizer'", ",", "'sparseSegmentMean'", ",", "]", "}", ",", "{", "startsWith", ":", "'mean '", ",", "excludes", ":", "[", "'meanSquaredError'", ",", "]", "}", ",", "{", "startsWith", ":", "'min '", ",", "excludes", ":", "[", "'stft'", ",", "]", "}", ",", "{", "startsWith", ":", "'mul '", ",", "excludes", ":", "[", "'broadcast'", ",", "]", "}", ",", "{", "startsWith", ":", "'nonMaxSuppression '", ",", "excludes", ":", "[", "'NonMaxSuppressionPadded'", "]", "}", ",", "{", "startsWith", ":", "'pool '", ",", "excludes", ":", "[", "'avg x=['", ",", "'max x=[4,3,1] f=[2,2] s=1 d=2'", ",", "'max x=[2,4,4,1] f=[2,2] s=1 d=2'", ",", "'poolBackprop'", ",", "]", "}", ",", "{", "startsWith", ":", "'range '", ",", "excludes", ":", "[", "'bincount'", ",", "'denseBincount'", ",", "'oneHot'", ",", "'sparseSegmentMean'", ",", "]", "}", ",", "{", "startsWith", ":", "'relu '", ",", "excludes", ":", "[", "'valueAndGradients'", ",", "'propagates NaNs'", ",", "'derivative'", ",", "'gradient'", "]", "}", ",", "{", "startsWith", ":", "'slice '", ",", "excludes", ":", "[", "'slice5d'", ",", "'slice6d'", ",", "'strided slice with'", ",", "]", "}", ",", "{", "startsWith", ":", "'softmax '", ",", "excludes", ":", "[", "'MEAN'", ",", "'Weighted - Reduction.SUM_BY_NONZERO_WEIGHTS'", ",", "]", "}", ",", "{", "startsWith", ":", "'spaceToBatchND '", ",", "excludes", ":", "[", "'tensor4d'", ",", "'accepts a tensor-like object'", ",", "]", "}", ",", "{", "startsWith", ":", "'sparseToDense '", ",", "excludes", ":", "[", "'0-sized'", ",", "]", "}", ",", "{", "startsWith", ":", "'square '", ",", "excludes", ":", "[", "'dilation2d'", ",", "]", "}", ",", "{", "startsWith", ":", "'squaredDifference '", ",", "excludes", ":", "[", "'dilation2d'", ",", "]", "}", ",", "{", "startsWith", ":", "'stridedSlice '", ",", "excludes", ":", "[", "'strided slice with several new axes'", ",", "'strided slice with new axes and'", ",", "]", "}", ",", "{", "startsWith", ":", "'tensor '", ",", "excludes", ":", "[", "'bool tensor'", "]", "}", ",", "{", "startsWith", ":", "'transpose '", ",", "excludes", ":", "[", "'oneHot'", ",", "'fused'", ",", "]", "}", ",", "{", "include", ":", "' webgpu '", ",", "excludes", ":", "[", "'acos '", ",", "'acosh '", ",", "'all webgpu '", ",", "'any webgpu '", ",", "'asin '", ",", "'asinh '", ",", "'atan2 '", ",", "'atanh '", ",", "'avgPool3d '", ",", "'avgPool3dBackprop '", ",", "'bincount '", ",", "'broadcastArgs '", ",", "'concat3d '", ",", "'conv2dTranspose '", ",", "'conv2DBackpropFilter '", ",", "'gradient with clones, input=2x2x1,d2=1,f=1,s=1,d=1,p=same'", ",", "'conv1d gradients'", ",", "'conv3d '", ",", "'conv3dTranspose '", ",", "'cumsum '", ",", "'decodeWeights '", ",", "'denseBincount '", ",", "'diag '", ",", "'dilation2d '", ",", "'encodeWeights '", ",", "'erf '", ",", "'FFT '", ",", "'IRFFT '", ",", "'isFinite '", ",", "'isInf '", ",", "'isNaN '", ",", "'linspace '", ",", "'localResponseNormalization '", ",", "'log1p '", ",", "'logSigmoid '", ",", "'logicalOr '", ",", "'logicalXor '", ",", "'maxPool3d '", ",", "'maxPool3dBackprop '", ",", "'maxPoolBackprop '", ",", "'maxPoolWithArgmax '", ",", "'mod '", ",", "'multinomial '", ",", "'oneHot '", ",", "'confusionMatrix '", ",", "'poolBackprop '", ",", "'reciprocal '", ",", "'reverse1d '", ",", "'reverse2d '", ",", "'reverse3d '", ",", "'reverse4d '", ",", "'reverse webgpu'", ",", "'RFFT '", ",", "'round webgpu'", ",", "'method otsu'", ",", "'selu '", ",", "'sign webgpu'", ",", "'stft '", ",", "'softplus '", ",", "'sigmoidCrossEntropy '", ",", "'sparseFillEmptyRows '", ",", "'sparseReshape '", ",", "'sparseSegmentMean '", ",", "'sparseSegmentSum '", ",", "'step kernel'", ",", "'gradients: relu6'", ",", "'stringSplit '", ",", "'stringToHashBucketFast '", ",", "'tan webgpu'", ",", "'unique '", ",", "'unsortedSegmentSum '", ",", "'valueAndGradients '", ",", "]", "}", ",", "]", ";", "const", "customInclude", "=", "(", "testName", ")", "=>", "{", "if", "(", "testName", ".", "startsWith", "(", "'webgpu'", ")", ")", "{", "return", "true", ";", "}", "return", "false", ";", "}", ";", "setupTestFilters", "(", "TEST_FILTERS", ",", "customInclude", ")", ";", "declare", "let", "__karma__", ";", "if", "(", "typeof", "__karma__", "!==", "'undefined'", ")", "{", "const", "testEnv", "=", "parseTestEnvFromKarmaFlags", "(", "__karma__", ".", "config", ".", "args", ",", "TEST_ENVS", ")", ";", "if", "(", "testEnv", "!=", "null", ")", "{", "setTestEnvs", "(", "[", "testEnv", "]", ")", ";", "}", "}", "require", "(", "'@tensorflow/tfjs-core/dist/tests'", ")", ";", "require", "(", "'./tests'", ")", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 8, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658193
[ "license", "import", "{", "symbolicallyComputeStrides", "}", "from", "'./shader_util'", ";", "describe", "(", "'shader util'", ",", "(", ")", "=>", "{", "it", "(", "'symbolicallyComputeStrides takes in array of dimensions '", "+", "'and returns GLSL to compute strides for those dimensions'", ",", "(", ")", "=>", "{", "const", "layout", "=", "[", "0", ",", "2", ",", "1", "]", ";", "const", "strides", "=", "symbolicallyComputeStrides", "(", "layout", ",", "'output'", ")", ";", "expect", "(", "strides", "[", "0", "]", ")", ".", "toEqual", "(", "'(output[1] * output[2])'", ")", ";", "expect", "(", "strides", "[", "1", "]", ")", ".", "toEqual", "(", "'output[1]'", ")", ";", "}", ")", ";", "it", "(", "'symbolicallyComputeStrides throws if given a dimension '", "+", "'that cannot be accessed from a GLSL data type'", ",", "(", ")", "=>", "{", "const", "layout", "=", "[", "0", ",", "5", ",", "2", "]", ";", "expect", "(", "(", ")", "=>", "symbolicallyComputeStrides", "(", "layout", ",", "'output'", ")", ")", ".", "toThrowError", "(", ")", ";", "}", ")", ";", "}", ")", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658194
[ "license", "import", "{", "computeDispatch", "}", "from", "'./webgpu_util'", ";", "describe", "(", "'webgpu util'", ",", "(", ")", "=>", "{", "it", "(", "'computeDispatch returns dispatch dimensions based on layout of '", "+", "'output dimensions and workGroupSize.'", ",", "(", ")", "=>", "{", "const", "layout", "=", "{", "x", ":", "[", "0", "]", ",", "y", ":", "[", "1", "]", ",", "z", ":", "[", "2", ",", "3", "]", "}", ";", "const", "outputShape", "=", "[", "1", ",", "2", ",", "3", ",", "2", "]", ";", "const", "workGroupSize", "=", "[", "2", ",", "2", ",", "1", "]", "as", "[", "number", ",", "number", ",", "number", "]", ";", "const", "dispatch", "=", "computeDispatch", "(", "layout", ",", "outputShape", ",", "workGroupSize", ")", ";", "expect", "(", "dispatch", ")", ".", "toEqual", "(", "[", "1", ",", "1", ",", "6", "]", ")", ";", "}", ")", ";", "it", "(", "'computeDispatch returns dispatch dimensions based on layout of '", "+", "'output dimensions, workGroupSize, and elementsPerThread.'", ",", "(", ")", "=>", "{", "const", "layout", "=", "{", "x", ":", "[", "0", "]", ",", "y", ":", "[", "1", "]", ",", "z", ":", "[", "2", ",", "3", "]", "}", ";", "const", "outputShape", "=", "[", "4", ",", "8", ",", "12", ",", "2", "]", ";", "const", "workGroupSize", "=", "[", "2", ",", "1", ",", "1", "]", "as", "[", "number", ",", "number", ",", "number", "]", ";", "const", "elementsPerThread", "=", "[", "2", ",", "2", ",", "3", "]", "as", "[", "number", ",", "number", ",", "number", "]", ";", "const", "dispatch", "=", "computeDispatch", "(", "layout", ",", "outputShape", ",", "workGroupSize", ",", "elementsPerThread", ")", ";", "expect", "(", "dispatch", ")", ".", "toEqual", "(", "[", "1", ",", "4", ",", "8", "]", ")", ";", "}", ")", ";", "}", ")", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658195
[ "license", "import", "*", "as", "tf", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "test_util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "describeWebGPU", "}", "from", "'../test_util'", ";", "function", "generateCaseInputs", "(", "totalSizeTensor", ",", "totalSizeFilter", ")", "{", "const", "inp", "=", "new", "Array", "(", "totalSizeTensor", ")", ";", "const", "filt", "=", "new", "Array", "(", "totalSizeFilter", ")", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "totalSizeTensor", ";", "i", "++", ")", "{", "inp", "[", "i", "]", "=", "i", "+", "1", ";", "}", "for", "(", "let", "i", "=", "0", ";", "i", "<", "totalSizeFilter", ";", "i", "++", ")", "{", "filt", "[", "i", "]", "=", "i", "+", "1", ";", "}", "return", "{", "input", ":", "inp", ",", "filter", ":", "filt", "}", ";", "}", "describeWebGPU", "(", "'conv2d naive'", ",", "(", ")", "=>", "{", "beforeAll", "(", "(", ")", "=>", "{", "tf", ".", "env", "(", ")", ".", "set", "(", "'WEBGPU_USE_NAIVE_CONV2D'", ",", "true", ")", ";", "}", ")", ";", "it", "(", "'x=[1,4,4,1] f=[1,1,1,3] s=2 d=1 p=same'", ",", "async", "(", ")", "=>", "{", "const", "inputDepth", "=", "1", ";", "const", "inputShape", "=", "[", "4", ",", "4", ",", "inputDepth", "]", ";", "const", "outputDepth", "=", "3", ";", "const", "fSize", "=", "1", ";", "const", "pad", "=", "'same'", ";", "const", "stride", "=", "[", "2", ",", "2", "]", ";", "const", "x", "=", "tf", ".", "tensor3d", "(", "[", "10", ",", "30", ",", "50", ",", "70", ",", "20", ",", "40", ",", "60", ",", "80", ",", "-", "10", ",", "-", "30", ",", "-", "50", ",", "-", "70", ",", "-", "20", ",", "-", "40", ",", "-", "60", ",", "-", "80", "]", ",", "inputShape", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "[", "1", ",", "0.5", ",", "1", "]", ",", "[", "fSize", ",", "fSize", ",", "inputDepth", ",", "outputDepth", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ")", ";", "test_util", ".", "expectArraysClose", "(", "await", "result", ".", "data", "(", ")", ",", "[", "10", ",", "5", ",", "10", ",", "50", ",", "25", ",", "50", ",", "-", "10", ",", "-", "5", ",", "-", "10", ",", "-", "50", ",", "-", "25", ",", "-", "50", "]", ")", ";", "}", ")", ";", "}", ")", ";", "describeWebGPU", "(", "'im2col as separate shader'", ",", "(", ")", "=>", "{", "beforeAll", "(", "(", ")", "=>", "{", "tf", ".", "env", "(", ")", ".", "set", "(", "'WEBGPU_CONV_SEPARATE_IM2COL_SHADER'", ",", "true", ")", ";", "}", ")", ";", "it", "(", "'x=[1,4,4,1] f=[1,1,1,3] s=2 d=1 p=same'", ",", "async", "(", ")", "=>", "{", "const", "inputDepth", "=", "1", ";", "const", "inputShape", "=", "[", "4", ",", "4", ",", "inputDepth", "]", ";", "const", "outputDepth", "=", "3", ";", "const", "fSize", "=", "1", ";", "const", "pad", "=", "'same'", ";", "const", "stride", "=", "[", "2", ",", "2", "]", ";", "const", "x", "=", "tf", ".", "tensor3d", "(", "[", "10", ",", "30", ",", "50", ",", "70", ",", "20", ",", "40", ",", "60", ",", "80", ",", "-", "10", ",", "-", "30", ",", "-", "50", ",", "-", "70", ",", "-", "20", ",", "-", "40", ",", "-", "60", ",", "-", "80", "]", ",", "inputShape", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "[", "1", ",", "0.5", ",", "1", "]", ",", "[", "fSize", ",", "fSize", ",", "inputDepth", ",", "outputDepth", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ")", ";", "test_util", ".", "expectArraysClose", "(", "await", "result", ".", "data", "(", ")", ",", "[", "10", ",", "5", ",", "10", ",", "50", ",", "25", ",", "50", ",", "-", "10", ",", "-", "5", ",", "-", "10", ",", "-", "50", ",", "-", "25", ",", "-", "50", "]", ")", ";", "}", ")", ";", "it", "(", "'x=[2,2,1] f=[1,1,1,2] s=1 d=1 p=0'", ",", "async", "(", ")", "=>", "{", "const", "inputDepth", "=", "1", ";", "const", "inputShape", "=", "[", "2", ",", "2", ",", "inputDepth", "]", ";", "const", "outputDepth", "=", "1", ";", "const", "fSize", "=", "1", ";", "const", "pad", "=", "0", ";", "const", "stride", "=", "1", ";", "const", "x", "=", "tf", ".", "tensor3d", "(", "[", "1", ",", "2", ",", "3", ",", "4", "]", ",", "inputShape", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "[", "2", "]", ",", "[", "fSize", ",", "fSize", ",", "inputDepth", ",", "outputDepth", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ")", ";", "test_util", ".", "expectArraysClose", "(", "await", "result", ".", "data", "(", ")", ",", "[", "2", ",", "4", ",", "6", ",", "8", "]", ")", ";", "}", ")", ";", "it", "(", "'x=[3,3,2] f=[2,2,2,1] s=1 d=1 p=valid'", ",", "async", "(", ")", "=>", "{", "const", "pad", "=", "'valid'", ";", "const", "stride", "=", "1", ";", "const", "x", "=", "tf", ".", "tensor3d", "(", "[", "1", ",", "2", ",", "3", ",", "4", ",", "5", ",", "6", ",", "7", ",", "8", ",", "9", ",", "10", ",", "20", ",", "30", ",", "40", ",", "50", ",", "60", ",", "70", ",", "80", ",", "90", "]", ",", "[", "3", ",", "3", ",", "2", "]", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "[", ".1", ",", ".2", ",", ".3", ",", ".4", ",", ".5", ",", ".6", ",", ".7", ",", ".8", "]", ",", "[", "2", ",", "2", ",", "2", ",", "1", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ")", ";", "const", "resultData", "=", "await", "result", ".", "data", "(", ")", ";", "expect", "(", "result", ".", "shape", ")", ".", "toEqual", "(", "[", "2", ",", "2", ",", "1", "]", ")", ";", "test_util", ".", "expectArraysClose", "(", "resultData", ",", "new", "Float32Array", "(", "[", "25.6", ",", "53.5", ",", "157.0", ",", "220.9", "]", ")", ")", ";", "}", ")", ";", "it", "(", "'x=[4,2,1] f=[4,2,1,1] s=1 d=1 p=same'", ",", "async", "(", ")", "=>", "{", "const", "inputDepth", "=", "1", ";", "const", "outputDepth", "=", "1", ";", "const", "pad", "=", "'same'", ";", "const", "stride", "=", "1", ";", "const", "dataFormat", "=", "'NHWC'", ";", "const", "dilation", "=", "1", ";", "const", "x", "=", "tf", ".", "tensor3d", "(", "[", "1", ",", "2", ",", "3", ",", "4", ",", "5", ",", "6", ",", "7", ",", "8", "]", ",", "[", "4", ",", "2", ",", "inputDepth", "]", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "[", "3", ",", "1", ",", "5", ",", "0", ",", "2", ",", "7", ",", "8", ",", "9", "]", ",", "[", "4", ",", "2", ",", "inputDepth", ",", "outputDepth", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ",", "dataFormat", ",", "dilation", ")", ";", "const", "resultData", "=", "await", "result", ".", "data", "(", ")", ";", "expect", "(", "result", ".", "shape", ")", ".", "toEqual", "(", "[", "4", ",", "2", ",", "1", "]", ")", ";", "test_util", ".", "expectArraysClose", "(", "resultData", ",", "[", "133", ",", "66", ",", "200", ",", "102", ",", "108", ",", "58", ",", "56", ",", "58", "]", ")", ";", "}", ")", ";", "it", "(", "'x=[2,2,1] f=[2,2,1,1] s=1 d=1 p=same'", ",", "async", "(", ")", "=>", "{", "const", "inputDepth", "=", "1", ";", "const", "inputShape", "=", "[", "2", ",", "2", ",", "inputDepth", "]", ";", "const", "outputDepth", "=", "1", ";", "const", "fSize", "=", "2", ";", "const", "pad", "=", "'same'", ";", "const", "stride", "=", "1", ";", "const", "dataFormat", "=", "'NHWC'", ";", "const", "dilation", "=", "1", ";", "const", "x", "=", "tf", ".", "tensor3d", "(", "[", "1", ",", "2", ",", "3", ",", "4", "]", ",", "inputShape", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "[", "3", ",", "1", ",", "5", ",", "0", "]", ",", "[", "fSize", ",", "fSize", ",", "inputDepth", ",", "outputDepth", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ",", "dataFormat", ",", "dilation", ")", ";", "const", "resultData", "=", "await", "result", ".", "data", "(", ")", ";", "expect", "(", "result", ".", "shape", ")", ".", "toEqual", "(", "[", "2", ",", "2", ",", "1", "]", ")", ";", "test_util", ".", "expectArraysClose", "(", "resultData", ",", "new", "Float32Array", "(", "[", "20", ",", "26", ",", "13", ",", "12", "]", ")", ")", ";", "}", ")", ";", "it", "(", "'x=[2,2,1] f=[2,2,1,1] s=1 d=1 p=0'", ",", "async", "(", ")", "=>", "{", "const", "inputDepth", "=", "1", ";", "const", "inputShape", "=", "[", "2", ",", "2", ",", "inputDepth", "]", ";", "const", "outputDepth", "=", "1", ";", "const", "fSize", "=", "2", ";", "const", "pad", "=", "0", ";", "const", "stride", "=", "1", ";", "const", "dataFormat", "=", "'NHWC'", ";", "const", "dilation", "=", "1", ";", "const", "x", "=", "tf", ".", "tensor3d", "(", "[", "1", ",", "2", ",", "3", ",", "4", "]", ",", "inputShape", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "[", "3", ",", "1", ",", "5", ",", "0", "]", ",", "[", "fSize", ",", "fSize", ",", "inputDepth", ",", "outputDepth", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ",", "dataFormat", ",", "dilation", ")", ";", "test_util", ".", "expectArraysClose", "(", "await", "result", ".", "data", "(", ")", ",", "[", "20", "]", ")", ";", "}", ")", ";", "it", "(", "'x=[1,3,6,1] f=[2,2,1,1] s=[1,2] d=1 p=valid'", ",", "async", "(", ")", "=>", "{", "const", "inputDepth", "=", "1", ";", "const", "inputShape", "=", "[", "1", ",", "3", ",", "6", ",", "inputDepth", "]", ";", "const", "outputDepth", "=", "1", ";", "const", "fSize", "=", "2", ";", "const", "pad", "=", "'valid'", ";", "const", "stride", "=", "[", "1", ",", "2", "]", ";", "const", "inputs", "=", "generateCaseInputs", "(", "1", "*", "3", "*", "6", "*", "inputDepth", ",", "fSize", "*", "fSize", ")", ";", "const", "x", "=", "tf", ".", "tensor4d", "(", "inputs", ".", "input", ",", "inputShape", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "inputs", ".", "filter", ",", "[", "fSize", ",", "fSize", ",", "inputDepth", ",", "outputDepth", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ")", ";", "test_util", ".", "expectArraysClose", "(", "await", "result", ".", "data", "(", ")", ",", "[", "58.0", ",", "78.0", ",", "98.0", ",", "118.0", ",", "138.0", ",", "158.0", "]", ")", ";", "}", ")", ";", "}", ")", ";", "describeWebGPU", "(", "'conv2d vec4'", ",", "(", ")", "=>", "{", "it", "(", "'conv2d x=[1,8,8,3] f=[3,3,3,64] s=[2,2] d=1 p=valid Conv2DMMVec4Program remainder != 0'", ",", "async", "(", ")", "=>", "{", "const", "inputDepth", "=", "3", ";", "const", "xSize", "=", "8", ";", "const", "inputShape", "=", "[", "1", ",", "xSize", ",", "xSize", ",", "inputDepth", "]", ";", "const", "outputDepth", "=", "64", ";", "const", "fSize", "=", "3", ";", "const", "pad", "=", "'valid'", ";", "const", "stride", "=", "[", "2", ",", "2", "]", ";", "const", "inputData", "=", "[", "]", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "xSize", "*", "xSize", "*", "inputDepth", ";", "i", "++", ")", "{", "inputData", ".", "push", "(", "i", "%", "5", ")", ";", "}", "const", "wData", "=", "[", "]", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "fSize", "*", "fSize", "*", "inputDepth", "*", "outputDepth", ";", "i", "++", ")", "{", "wData", ".", "push", "(", "i", "%", "5", ")", ";", "}", "const", "x", "=", "tf", ".", "tensor4d", "(", "inputData", ",", "inputShape", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "wData", ",", "[", "fSize", ",", "fSize", ",", "inputDepth", ",", "outputDepth", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ")", ";", "expect", "(", "result", ".", "shape", ")", ".", "toEqual", "(", "[", "1", ",", "3", ",", "3", ",", "64", "]", ")", ";", "test_util", ".", "expectArraysClose", "(", "await", "result", ".", "data", "(", ")", ",", "new", "Float32Array", "(", "[", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "116", ",", "50", ",", "104", ",", "133", ",", "137", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "53", ",", "104", ",", "125", ",", "126", ",", "102", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "110", ",", "133", ",", "126", ",", "104", ",", "57", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "142", ",", "137", ",", "102", ",", "57", ",", "112", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", ",", "149", ",", "116", ",", "53", ",", "110", ",", "142", "]", ")", ")", ";", "}", ")", ";", "it", "(", "'conv2d x=[1,8,8,64] f=[3,3,64,64] s=[1,1] d=1 p=same Conv2DMMVec4Program fitA == true and fitB == true'", ",", "async", "(", ")", "=>", "{", "const", "inputDepth", "=", "64", ";", "const", "xSize", "=", "8", ";", "const", "inputShape", "=", "[", "1", ",", "xSize", ",", "xSize", ",", "inputDepth", "]", ";", "const", "outputDepth", "=", "64", ";", "const", "fSize", "=", "3", ";", "const", "pad", "=", "'same'", ";", "const", "stride", "=", "[", "1", ",", "1", "]", ";", "const", "inputData", "=", "[", "]", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "xSize", "*", "xSize", "*", "inputDepth", ";", "i", "++", ")", "{", "inputData", ".", "push", "(", "i", "%", "5", ")", ";", "}", "const", "wData", "=", "[", "]", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "fSize", "*", "fSize", "*", "inputDepth", "*", "outputDepth", ";", "i", "++", ")", "{", "wData", ".", "push", "(", "i", "%", "5", ")", ";", "}", "const", "x", "=", "tf", ".", "tensor4d", "(", "inputData", ",", "inputShape", ")", ";", "const", "w", "=", "tf", ".", "tensor4d", "(", "wData", ",", "[", "fSize", ",", "fSize", ",", "inputDepth", ",", "outputDepth", "]", ")", ";", "const", "result", "=", "tf", ".", "conv2d", "(", "x", ",", "w", ",", "stride", ",", "pad", ")", ";", "expect", "(", "result", ".", "shape", ")", ".", "toEqual", "(", "[", "1", ",", "8", ",", "8", ",", "64", "]", ")", ";", "test_util", ".", "expectArraysClose", "(", "await", "result", ".", "data", "(", ")", ",", "new", "Float32Array", "(", "[", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1022", ",", "514", ",", "1026", ",", "1283", ",", "1275", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1275", ",", "1276", ",", "1022", ",", "513", ",", "1024", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2316", ",", "1150", ",", "2304", ",", "2883", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2887", ",", "2300", ",", "1153", ",", "2306", ",", "2884", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2883", ",", "2875", ",", "2302", ",", "1154", ",", "2306", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2304", ",", "2875", ",", "2876", ",", "2302", ",", "1153", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "1150", ",", "2300", ",", "2875", ",", "2875", ",", "2300", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1287", ",", "1036", ",", "510", ",", "1024", ",", "1283", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1540", ",", "1925", ",", "1925", ",", "1540", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "770", ",", "1536", ",", "1917", ",", "1913", ",", "1524", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1540", ",", "767", ",", "1534", ",", "1916", ",", "1913", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1925", ",", "1538", ",", "766", ",", "1534", ",", "1917", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1925", ",", "1924", ",", "1538", ",", "767", ",", "1536", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", ",", "1026", ",", "1284", ",", "1287", ",", "1020", ",", "513", "]", ")", ")", ";", "}", ")", ";", "}", ")", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, 3, null, 3, null, null, null, 5, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 5, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 5, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 2, null, null, null, null, 5, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658196
[ "license", "import", "*", "as", "tf", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "test_util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "describeWebGPU", "}", "from", "'../test_util'", ";", "const", "expectArraysClose", "=", "test_util", ".", "expectArraysClose", ";", "describeWebGPU", "(", "'pool'", ",", "(", ")", "=>", "{", "it", "(", "'x=[4,4,1] f=[1,1] s=2 d=1'", ",", "async", "(", ")", "=>", "{", "const", "a", "=", "tf", ".", "tensor3d", "(", "[", "0", ",", "1", ",", "2", ",", "3", ",", "4", ",", "5", ",", "6", ",", "7", ",", "8", ",", "9", ",", "10", ",", "11", ",", "12", ",", "13", ",", "14", ",", "15", "]", ",", "[", "4", ",", "4", ",", "1", "]", ")", ";", "const", "windowShape", "=", "1", ";", "const", "padding", "=", "0", ";", "const", "dilationRate", "=", "undefined", ";", "const", "strides", "=", "2", ";", "const", "result", "=", "tf", ".", "pool", "(", "a", ",", "windowShape", ",", "'avg'", ",", "padding", ",", "dilationRate", ",", "strides", ")", ";", "expect", "(", "result", ".", "shape", ")", ".", "toEqual", "(", "[", "2", ",", "2", ",", "1", "]", ")", ";", "expectArraysClose", "(", "await", "result", ".", "data", "(", ")", ",", "[", "0", ",", "2", ",", "8", ",", "10", "]", ")", ";", "}", ")", ";", "}", ")", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658197
[ "license", "import", "*", "as", "tf", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "test_util", "}", "from", "'@tensorflow/tfjs-core'", ";", "import", "{", "describeWebGPU", "}", "from", "'../test_util'", ";", "const", "expectArraysClose", "=", "test_util", ".", "expectArraysClose", ";", "describeWebGPU", "(", "'precision'", ",", "(", ")", "=>", "{", "it", "(", "'float precision'", ",", "async", "(", ")", "=>", "{", "const", "batch", "=", "262145", ";", "const", "size", "=", "batch", "*", "4", "*", "4", "*", "4", ";", "const", "aData", "=", "new", "Float32Array", "(", "size", ")", ";", "const", "bData", "=", "new", "Float32Array", "(", "size", "/", "4", ")", ";", "for", "(", "let", "i", "=", "0", ";", "i", "<", "size", ";", "i", "++", ")", "{", "aData", "[", "i", "]", "=", "i", "-", "100", ";", "if", "(", "i", "%", "4", "===", "0", ")", "{", "const", "iB", "=", "i", "/", "4", ";", "bData", "[", "iB", "]", "=", "iB", "-", "100", ";", "}", "}", "const", "aTensor", "=", "tf", ".", "tensor4d", "(", "aData", ",", "[", "batch", ",", "4", ",", "4", ",", "4", "]", ")", ";", "const", "bTensor", "=", "tf", ".", "tensor4d", "(", "bData", ",", "[", "batch", ",", "4", ",", "4", ",", "1", "]", ")", ";", "const", "gpuData", "=", "await", "tf", ".", "add", "(", "aTensor", ",", "bTensor", ")", ".", "data", "(", ")", ";", "const", "expected", "=", "[", "20971312", ",", "20971312", ",", "20971316", ",", "20971316", ",", "20971316", ",", "20971318", ",", "20971320", ",", "20971320", ",", "20971322", ",", "20971324", ",", "20971324", ",", "20971326", ",", "20971328", ",", "20971328", ",", "20971330", ",", "20971332", ",", "20971332", ",", "20971332", ",", "20971336", ",", "20971336", "]", ";", "expectArraysClose", "(", "Array", ".", "from", "(", "gpuData", ")", ".", "slice", "(", "16777210", ",", "16777230", ")", ",", "expected", ")", ";", "}", ")", ";", "}", ")", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, 84, null, null, null, null, null, null, null, null, 84, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 5, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658198
[ "const", "URL", "=", "'https://play.pokemonshowdown.com/'", ";", "const", "SERVERID", "=", "'showdown'", ";", "const", "CAPTCHA", "=", "'Pikachu'", ";", "const", "CONTENT_TYPE", "=", "'application/x-www-form-urlencoded; encoding=UTF-8'", ";", "/** Details required when logging in. */", "export", "interface", "LoginDetails", "{", "username", ":", "string", ";", "challstr", ":", "string", ";", "password", "?", ":", "string", ";", "serverid", "?", ":", "string", ";", "url", "?", ":", "string", ";", "}", "/** Details required when registering. */", "export", "interface", "RegistrationDetails", "extends", "LoginDetails", "{", "password", ":", "string", ";", "cpassword", "?", ":", "string", ";", "captcha", "?", ":", "string", ";", "}", "/** Information requested to make a request and handle the response. */", "export", "interface", "Action", "{", "method", ":", "'GET'", "|", "'POST'", ";", "headers", ":", "{", "[", "key", "]", ":", "string", "|", "number", ";", "}", ";", "url", ":", "string", ";", "data", ":", "string", ";", "responseType", ":", "'text'", ";", "onResponse", ":", "(", "data", ":", "string", ")", "=>", "string", "|", "undefined", ";", "}", "interface", "Response", "{", "assertion", "?", ":", "string", ";", "curuser", "?", ":", "{", "username", ":", "string", ";", "loggedin", ":", "boolean", ";", "}", ";", "error", "?", ":", "string", ";", "actionerror", "?", ":", "string", ";", "}", "type", "ID", "=", "(", "string", "&", "{", "__brand", ":", "'ID'", ";", "}", ")", "|", "(", "string", "&", "{", "__isID", ":", "true", ";", "}", ")", "|", "''", ";", "/** Register with the server. */", "export", "function", "register", "(", "details", ")", "{", "return", "{", "...", "action", "(", "details", ",", "querystring", "(", "{", "act", ":", "'register'", ",", "username", ":", "details", ".", "username", ",", "password", ":", "details", ".", "password", ",", "cpassword", ":", "details", ".", "cpassword", "??", "details", ".", "password", ",", "captcha", ":", "details", ".", "captcha", "??", "CAPTCHA", ",", "challstr", ":", "details", ".", "challstr", ",", "}", ")", ")", ",", "onResponse", ":", "(", "data", "?", ")", "=>", "{", "const", "response", "=", "safeJSON", "(", "data", ")", "as", "Response", ";", "if", "(", "response", ".", "curuser", "?.", "loggedin", ")", "{", "return", "next", "(", "details", ",", "response", ".", "assertion", "!", ")", ";", "}", "else", "{", "return", "error", "(", "details", ",", "response", ")", ";", "}", "}", ",", "}", ";", "}", "/** Log in to the server (or rename if no password is provided). */", "export", "function", "login", "(", "details", ")", "{", "if", "(", "!", "details", ".", "password", ")", "return", "rename", "(", "details", ")", ";", "return", "{", "...", "action", "(", "details", ",", "querystring", "(", "{", "act", ":", "'login'", ",", "name", ":", "details", ".", "username", ",", "pass", ":", "details", ".", "password", ",", "challstr", ":", "details", ".", "challstr", ",", "}", ")", ")", ",", "onResponse", ":", "(", "data", "?", ")", "=>", "{", "const", "response", "=", "safeJSON", "(", "data", ")", "as", "Response", ";", "if", "(", "response", ".", "curuser", "?.", "loggedin", ")", "{", "return", "next", "(", "details", ",", "response", ".", "assertion", "!", ")", ";", "}", "else", "{", "return", "error", "(", "details", ",", "response", ")", ";", "}", "}", ",", "}", ";", "}", "/** Attempts to upkeep an existing session with the server (requires cookies). */", "export", "function", "upkeep", "(", "details", ")", "{", "return", "{", "...", "action", "(", "details", ",", "querystring", "(", "{", "act", ":", "'upkeep'", ",", "challstr", ":", "details", ".", "challstr", "}", ")", ")", ",", "onResponse", ":", "(", "data", "?", ")", "=>", "{", "const", "response", "=", "safeJSON", "(", "data", ")", "as", "{", "username", "?", ":", "string", ";", "assertion", ":", "string", ";", "}", ";", "if", "(", "!", "response", ".", "username", ")", "return", "undefined", ";", "return", "next", "(", "{", "...", "details", ",", "username", ":", "response", ".", "username", "}", ",", "response", ".", "assertion", ")", ";", "}", ",", "}", ";", "}", "/** Change the name of the connected user (or login if a password is provided). */", "export", "function", "rename", "(", "details", ")", "{", "if", "(", "details", ".", "password", ")", "return", "login", "(", "details", ")", ";", "return", "{", "...", "action", "(", "details", ",", "querystring", "(", "{", "act", ":", "'getassertion'", ",", "userid", ":", "toID", "(", "details", ".", "username", ")", ",", "challstr", ":", "details", ".", "challstr", ",", "}", ")", ")", ",", "onResponse", ":", "(", "assertion", ")", "=>", "next", "(", "details", ",", "assertion", ")", ",", "}", ";", "}", "/** Log out from the server (but remain connected as a guest). */", "export", "function", "logout", "(", "details", ")", "{", "return", "{", "...", "action", "(", "details", ",", "querystring", "(", "{", "act", ":", "'logout'", ",", "userid", ":", "toID", "(", "details", ".", "username", ")", "}", ")", ")", ",", "onResponse", ":", "(", ")", "=>", "'|/logout'", ",", "}", ";", "}", "function", "action", "(", "details", ",", "data", ")", "{", "return", "{", "method", ":", "'POST'", ",", "url", ":", "`${", "(", "details", "?.", "url", "||", "URL", ")", "}~~${", "details", "?.", "serverid", "||", "SERVERID", "}/action.php`", ",", "headers", ":", "{", "'Content-Type'", ":", "CONTENT_TYPE", ",", "'Content-Length'", ":", "data", ".", "length", ",", "}", ",", "data", ",", "responseType", ":", "'text'", ",", "}", ";", "}", "function", "querystring", "(", "data", ")", "{", "const", "buf", "=", "[", "]", ";", "for", "(", "const", "key", "in", "data", ")", "{", "buf", ".", "push", "(", "`${", "key", "}=${", "encodeURIComponent", "(", "data", "[", "key", "]", ")", "}`", ")", ";", "}", "return", "buf", ".", "join", "(", "'&'", ")", ";", "}", "function", "safeJSON", "(", "data", "?", ")", "{", "if", "(", "!", "data", "||", "data", ".", "length", "<", "1", ")", "throw", "new", "Error", "(", "'No data received'", ")", ";", "if", "(", "data", "[", "0", "]", "===", "']'", ")", "data", "=", "data", ".", "substr", "(", "1", ")", ";", "return", "JSON", ".", "parse", "(", "data", ")", ";", "}", "function", "toID", "(", "text", ")", "{", "if", "(", "text", "?.", "id", ")", "text", "=", "text", ".", "id", ";", "if", "(", "typeof", "text", "!==", "'string'", "&&", "typeof", "text", "!==", "'number'", ")", "return", "''", ";", "return", "(", "''", "+", "text", ")", ".", "toLowerCase", "(", ")", ".", "replace", "(", "/[^a-z0-9]+/g", ",", "''", ")", "as", "ID", ";", "}", "function", "next", "(", "details", ",", "assertion", ")", "{", "return", "`|/trn ${", "details", ".", "username", "},0,${", "process", "(", "details", ",", "assertion", ")", "}`", ";", "}", "function", "error", "(", "details", ",", "response", ")", "{", "const", "err", "=", "response", ".", "error", "||", "response", ".", "actionerror", ";", "if", "(", "err", ")", "throw", "new", "Error", "(", "err", ")", ";", "void", "process", "(", "details", ",", "response", ".", "assertion", "||", "''", ")", ";", "throw", "new", "Error", "(", "`Received unexpected response: ']${", "JSON", ".", "stringify", "(", "response", ")", "}'`", ")", ";", "}", "function", "process", "(", "details", ",", "assertion", ")", "{", "if", "(", "assertion", ".", "slice", "(", "0", ",", "14", ")", ".", "toLowerCase", "(", ")", "===", "'<!doctype html'", ")", "{", "const", "endIndex", "=", "assertion", ".", "indexOf", "(", "'>'", ")", ";", "if", "(", "endIndex", ">", "0", ")", "assertion", "=", "assertion", ".", "slice", "(", "endIndex", "+", "1", ")", ";", "}", "if", "(", "assertion", ".", "startsWith", "(", "'\\r'", ")", ")", "assertion", "=", "assertion", ".", "slice", "(", "1", ")", ";", "if", "(", "assertion", ".", "startsWith", "(", "'\\n'", ")", ")", "assertion", "=", "assertion", ".", "slice", "(", "1", ")", ";", "if", "(", "assertion", ".", "includes", "(", "'<'", ")", ")", "{", "throw", "new", "Error", "(", "'Something appears to be interfering with the connection'", ")", ";", "}", "else", "if", "(", "assertion", "===", "';'", ")", "{", "throw", "new", "Error", "(", "`Authentication required for '${", "details", ".", "username", "}'`", ")", ";", "}", "else", "if", "(", "assertion", "===", "';;@gmail'", ")", "{", "throw", "new", "Error", "(", "`Authentication from Google required for '${", "details", ".", "username", "}'`", ")", ";", "}", "else", "if", "(", "assertion", ".", "startsWith", "(", "';;'", ")", ")", "{", "throw", "new", "Error", "(", "`Invalid name: ${", "assertion", ".", "substr", "(", "2", ")", "}`", ")", ";", "}", "else", "if", "(", "assertion", ".", "includes", "(", "'\\n'", ")", "||", "!", "assertion", ")", "{", "throw", "new", "Error", "(", "'Something appears to be interfering with the connection'", ")", ";", "}", "return", "assertion", ";", "}", "/** Collection of tools for interacting with Pokémon Showdown's login server. */", "export", "const", "Actions", "=", "{", "register", ",", "login", ",", "upkeep", ",", "rename", ",", "logout", "}", ";" ]
[ null, 2, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, 16, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, 16, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, 0, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, 171, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 171, null, 6, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, 6, null, null, null, 5, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 894, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, 0, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, 16, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, 6, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 3, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null ]
658199
[ "import", "{", "Actions", ",", "Action", "}", "from", "'./index'", ";", "import", "*", "as", "fs", "from", "'fs'", ";", "import", "*", "as", "path", "from", "'path'", ";", "describe", "(", "'Actions'", ",", "(", ")", "=>", "{", "it", "(", "'register'", ",", "(", ")", "=>", "{", "let", "register", "=", "Actions", ".", "register", "(", "{", "username", ":", "'User'", ",", "password", ":", "'password'", ",", "challstr", ":", "'4|foo'", "}", ")", ";", "expectAction", "(", "register", ",", "'act=register&username=User&password=password&'", "+", "'cpassword=password&captcha=Pikachu&challstr=4%7Cfoo'", ")", ";", "expectOnRegisterResponse", "(", "register", ",", "'User'", ",", "'|/trn User,0,token'", ")", ";", "register", "=", "Actions", ".", "register", "(", "{", "username", ":", "'Foo'", ",", "password", ":", "'BAR'", ",", "cpassword", ":", "'bar'", ",", "captcha", ":", "'Sandshrew'", ",", "challstr", ":", "'4|baz'", ",", "url", ":", "'https://play.pkmn.cc/'", ",", "serverid", ":", "'pocketmon'", ",", "}", ")", ";", "expectAction", "(", "register", ",", "'act=register&username=Foo&password=BAR&'", "+", "'cpassword=bar&captcha=Sandshrew&challstr=4%7Cbaz'", ",", "false", ")", ";", "expect", "(", "register", ".", "url", ")", ".", "toBe", "(", "'https://play.pkmn.cc/~~pocketmon/action.php'", ")", ";", "expectOnRegisterResponse", "(", "register", ",", "'Foo'", ",", "'|/trn Foo,0,token'", ")", ";", "}", ")", ";", "it", "(", "'login'", ",", "(", ")", "=>", "{", "const", "rename", "=", "Actions", ".", "login", "(", "{", "username", ":", "'User'", ",", "challstr", ":", "'3|foo'", "}", ")", ";", "expectAction", "(", "rename", ",", "'act=getassertion&userid=user&challstr=3%7Cfoo'", ")", ";", "let", "login", "=", "Actions", ".", "login", "(", "{", "username", ":", "'User'", ",", "password", ":", "'password'", ",", "challstr", ":", "'4|foo'", "}", ")", ";", "expectAction", "(", "login", ",", "'act=login&name=User&pass=password&challstr=4%7Cfoo'", ")", ";", "expectOnLoginResponse", "(", "login", ",", "'User'", ",", "'|/trn User,0,token'", ")", ";", "login", "=", "Actions", ".", "login", "(", "{", "username", ":", "'Foo'", ",", "password", ":", "'BAR'", ",", "challstr", ":", "'4|baz'", ",", "url", ":", "'https://play.pkmn.cc/'", ",", "serverid", ":", "'pocketmon'", ",", "}", ")", ";", "expectAction", "(", "login", ",", "'act=login&name=Foo&pass=BAR&challstr=4%7Cbaz'", ",", "false", ")", ";", "expect", "(", "login", ".", "url", ")", ".", "toBe", "(", "'https://play.pkmn.cc/~~pocketmon/action.php'", ")", ";", "expectOnLoginResponse", "(", "login", ",", "'Foo'", ",", "'|/trn Foo,0,token'", ")", ";", "}", ")", ";", "it", "(", "'upkeep'", ",", "(", ")", "=>", "{", "let", "upkeep", "=", "Actions", ".", "upkeep", "(", "{", "username", ":", "'User'", ",", "challstr", ":", "'4|foo'", "}", ")", ";", "expectAction", "(", "upkeep", ",", "'act=upkeep&challstr=4%7Cfoo'", ")", ";", "expectOnUpkeepResponse", "(", "upkeep", ",", "'USER'", ")", ";", "upkeep", "=", "Actions", ".", "upkeep", "(", "{", "username", ":", "'Foo'", ",", "password", ":", "'BAR'", ",", "challstr", ":", "'4|baz'", ",", "url", ":", "'https://play.pkmn.cc/'", ",", "serverid", ":", "'pocketmon'", ",", "}", ")", ";", "expectAction", "(", "upkeep", ",", "'act=upkeep&challstr=4%7Cbaz'", ",", "false", ")", ";", "expect", "(", "upkeep", ".", "url", ")", ".", "toBe", "(", "'https://play.pkmn.cc/~~pocketmon/action.php'", ")", ";", "expectOnUpkeepResponse", "(", "upkeep", ",", "'foo'", ")", ";", "}", ")", ";", "it", "(", "'rename'", ",", "(", ")", "=>", "{", "const", "login", "=", "Actions", ".", "rename", "(", "{", "username", ":", "'User'", ",", "password", ":", "'pass'", ",", "challstr", ":", "'3|foo'", "}", ")", ";", "expectAction", "(", "login", ",", "'act=login&name=User&pass=pass&challstr=3%7Cfoo'", ")", ";", "let", "rename", "=", "Actions", ".", "rename", "(", "{", "username", ":", "'User'", ",", "challstr", ":", "'4|foo'", "}", ")", ";", "expectAction", "(", "rename", ",", "'act=getassertion&userid=user&challstr=4%7Cfoo'", ")", ";", "expectOnRenameResponse", "(", "rename", ",", "'User'", ")", ";", "rename", "=", "Actions", ".", "rename", "(", "{", "username", ":", "'Foo'", ",", "challstr", ":", "'4|baz'", ",", "url", ":", "'https://play.pkmn.cc/'", ",", "serverid", ":", "'pocketmon'", ",", "}", ")", ";", "expectAction", "(", "rename", ",", "'act=getassertion&userid=foo&challstr=4%7Cbaz'", ",", "false", ")", ";", "expect", "(", "rename", ".", "url", ")", ".", "toBe", "(", "'https://play.pkmn.cc/~~pocketmon/action.php'", ")", ";", "expectOnRenameResponse", "(", "rename", ",", "'Foo'", ")", ";", "}", ")", ";", "it", "(", "'logout'", ",", "(", ")", "=>", "{", "let", "logout", "=", "Actions", ".", "logout", "(", "{", "username", ":", "'User Name'", "}", ")", ";", "expectAction", "(", "logout", ",", "'act=logout&userid=username'", ")", ";", "expect", "(", "logout", ".", "onResponse", "(", "'foo'", ")", ")", ".", "toBe", "(", "'|/logout'", ")", ";", "logout", "=", "Actions", ".", "logout", "(", "{", "username", ":", "'User Name'", ",", "url", ":", "'https://play.pkmn.cc/'", ",", "serverid", ":", "'pocketmon'", ",", "}", ")", ";", "expectAction", "(", "logout", ",", "'act=logout&userid=username'", ",", "false", ")", ";", "expect", "(", "logout", ".", "url", ")", ".", "toBe", "(", "'https://play.pkmn.cc/~~pocketmon/action.php'", ")", ";", "expect", "(", "logout", ".", "onResponse", "(", "'bar'", ")", ")", ".", "toBe", "(", "'|/logout'", ")", ";", "}", ")", ";", "}", ")", ";", "function", "expectAction", "(", "action", ",", "data", ",", "url", "=", "true", ")", "{", "expect", "(", "action", ".", "data", ")", ".", "toEqual", "(", "data", ")", ";", "expect", "(", "action", ".", "method", ")", ".", "toBe", "(", "'POST'", ")", ";", "expect", "(", "action", ".", "headers", "[", "'Content-Type'", "]", ")", ".", "toBe", "(", "'application/x-www-form-urlencoded; encoding=UTF-8'", ")", ";", "expect", "(", "action", ".", "headers", "[", "'Content-Length'", "]", ")", ".", "toEqual", "(", "data", ".", "length", ")", ";", "expect", "(", "action", ".", "responseType", ")", ".", "toBe", "(", "'text'", ")", ";", "if", "(", "url", ")", "expect", "(", "action", ".", "url", ")", ".", "toBe", "(", "'https://play.pokemonshowdown.com/~~showdown/action.php'", ")", ";", "}", "function", "expectOnRegisterResponse", "(", "action", ",", "username", ",", "next", ")", "{", "expect", "(", "(", ")", "=>", "action", ".", "onResponse", "(", "''", ")", ")", ".", "toThrow", "(", "'No data received'", ")", ";", "expect", "(", "(", ")", "=>", "action", ".", "onResponse", "(", "']{\"error\": \"Error\"}'", ")", ")", ".", "toThrow", "(", "'Error'", ")", ";", "expect", "(", "(", ")", "=>", "action", ".", "onResponse", "(", "']{\"actionerror\": \"Action Error\"}'", ")", ")", ".", "toThrow", "(", "'Action Error'", ")", ";", "expect", "(", "(", ")", "=>", "action", ".", "onResponse", "(", "']{\"assertion\": \"token\"}'", ")", ")", ".", "toThrow", "(", "'Received unexpected response: \\']{\"assertion\":\"token\"}\\''", ")", ";", "expect", "(", "(", ")", "=>", "action", ".", "onResponse", "(", "']{\"assertion\": \"<\"}'", ")", ")", ".", "toThrow", "(", "'Something appears to be interfering with the connection'", ")", ";", "expect", "(", "(", ")", "=>", "action", ".", "onResponse", "(", "']{\"assertion\": \";\"}'", ")", ")", ".", "toThrow", "(", "`Authentication required for '${", "username", "}'`", ")", ";", "expect", "(", "(", ")", "=>", "action", ".", "onResponse", "(", "']{\"assertion\": \";;@gmail\"}'", ")", ")", ".", "toThrow", "(", "`Authentication from Google required for '${", "username", "}'`", ")", ";", "expect", "(", "(", ")", "=>", "action", ".", "onResponse", "(", "`]{\"assertion\": \";;${", "username", "} contains a banned word\"}`", ")", ")", ".", "toThrow", "(", "`Invalid name: ${", "username", "} contains a banned word`", ")", ";", "expect", "(", "(", ")", "=>", "action", ".", "onResponse", "(", "']{\"assertion\": \"\"}'", ")", ")", ".", "toThrow", "(", "'Something appears to be interfering with the connection'", ")", ";", "const", "assertion", "=", "'<!DOCTYPE html foo bar>token'", ";", "const", "response", "=", "`]{\"curuser\": {\"username\": \"${", "username", "}\", \"loggedin\": true}, \"assertion\": \"${", "assertion", "}\"}`", ";", "expect", "(", "action", ".", "onResponse", "(", "response", ")", ")", ".", "toEqual", "(", "next", ")", ";", "}", "const", "expectOnLoginResponse", "=", "expectOnRegisterResponse", ";", "function", "expectOnUpkeepResponse", "(", "upkeep", ",", "username", ")", "{", "expect", "(", "(", ")", "=>", "upkeep", ".", "onResponse", "(", "''", ")", ")", ".", "toThrow", "(", "'No data received'", ")", ";", "expect", "(", "(", ")", "=>", "upkeep", ".", "onResponse", "(", "`]{\"username\": \"${", "username", "}\", \"assertion\": \"<\"}`", ")", ")", ".", "toThrow", "(", "'Something appears to be interfering with the connection'", ")", ";", "expect", "(", "(", ")", "=>", "upkeep", ".", "onResponse", "(", "`]{\"username\": \"${", "username", "}\", \"assertion\": \";\"}`", ")", ")", ".", "toThrow", "(", "`Authentication required for '${", "username", "}'`", ")", ";", "expect", "(", "(", ")", "=>", "upkeep", ".", "onResponse", "(", "`]{\"username\": \"${", "username", "}\", \"assertion\": \";;@gmail\"}`", ")", ")", ".", "toThrow", "(", "`Authentication from Google required for '${", "username", "}'`", ")", ";", "expect", "(", "(", ")", "=>", "upkeep", ".", "onResponse", "(", "`]{\"username\": \"${", "username", "}\", \"assertion\": \";;${", "username", "} contains a banned word\"}`", ")", ")", ".", "toThrow", "(", "`Invalid name: ${", "username", "} contains a banned word`", ")", ";", "expect", "(", "(", ")", "=>", "upkeep", ".", "onResponse", "(", "`]{\"username\": \"${", "username", "}\", \"assertion\": \"\"}`", ")", ")", ".", "toThrow", "(", "'Something appears to be interfering with the connection'", ")", ";", "expect", "(", "upkeep", ".", "onResponse", "(", "']{\"foo\": \"bar\"}'", ")", ")", ".", "toBeUndefined", "(", ")", ";", "const", "response", "=", "`]{\"username\": \"${", "username", "}\", \"assertion\": \"<!DOCTYPE html foo bar>token\"}`", ";", "expect", "(", "upkeep", ".", "onResponse", "(", "response", ")", ")", ".", "toBe", "(", "`|/trn ${", "username", "},0,token`", ")", ";", "}", "function", "expectOnRenameResponse", "(", "rename", ",", "username", ")", "{", "expect", "(", "(", ")", "=>", "rename", ".", "onResponse", "(", "'<'", ")", ")", ".", "toThrow", "(", "'Something appears to be interfering with the connection'", ")", ";", "expect", "(", "(", ")", "=>", "rename", ".", "onResponse", "(", "';'", ")", ")", ".", "toThrow", "(", "`Authentication required for '${", "username", "}'`", ")", ";", "expect", "(", "(", ")", "=>", "rename", ".", "onResponse", "(", "';;@gmail'", ")", ")", ".", "toThrow", "(", "`Authentication from Google required for '${", "username", "}'`", ")", ";", "expect", "(", "(", ")", "=>", "rename", ".", "onResponse", "(", "';;Foo contains a banned word'", ")", ")", ".", "toThrow", "(", "'Invalid name: Foo contains a banned word'", ")", ";", "expect", "(", "(", ")", "=>", "rename", ".", "onResponse", "(", "''", ")", ")", ".", "toThrow", "(", "'Something appears to be interfering with the connection'", ")", ";", "expect", "(", "rename", ".", "onResponse", "(", "'<!DOCTYPE html foo bar>token'", ")", ")", ".", "toBe", "(", "`|/trn ${", "username", "},0,token`", ")", ";", "}", "describe", "(", "'Bundle'", ",", "(", ")", "=>", "{", "it", "(", "'usage'", ",", "(", ")", "=>", "{", "{", "const", "window", "=", "{", "}", "as", "{", "LoginTools", ":", "typeof", "Actions", ";", "}", ";", "eval", "(", "fs", ".", "readFileSync", "(", "path", ".", "resolve", "(", "__dirname", ",", "'./build/production.min.js'", ")", ",", "'utf8'", ")", ")", ";", "const", "login", "=", "window", ".", "LoginTools", ".", "login", "(", "{", "username", ":", "'User'", ",", "password", ":", "'password'", ",", "challstr", ":", "'4|foo'", "}", ")", ";", "expectAction", "(", "login", ",", "'act=login&name=User&pass=password&challstr=4%7Cfoo'", ")", ";", "expectOnLoginResponse", "(", "login", ",", "'User'", ",", "'|/trn User,0,token'", ")", ";", "}", "}", ")", ";", "}", ")", ";" ]
[ null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 4, null, 100, null, 2, null, 8, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 4, null, 100, null, 2, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 4, null, null, null, null, 4, null, 100, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 4, null, 100, null, 2, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 6, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, 100, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null, null ]