Datasets:

Modalities:
Text
Languages:
code
ArXiv:
Libraries:
Datasets
License:
Muennighoff commited on
Commit
fa14011
·
1 Parent(s): b63fa07

Update commitpackft.py

Browse files
Files changed (1) hide show
  1. commitpackft.py +6 -1
commitpackft.py CHANGED
@@ -17,6 +17,11 @@ TODO
17
  """
18
 
19
  _LANG = ["ruby", "yaml", "python", "markdown", "javascript", "json", "shell", "text", "php", "java", "html", "c#", "xml", "html+erb", "c", "ini", "coffeescript", "swift", "restructuredtext", "typescript", "c++", "scss", "go", "scala", "haml", "css", "rust", "toml", "jsx", "kotlin", "clojure", "perl", "bitbake", "groovy", "twig", "nix", "sql", "less", "haskell", "handlebars", "unknown", "batchfile", "cucumber", "makefile", "elixir", "jade", "cmake", "powershell", "slim", "emacs-lisp", "dart", "viml", "asciidoc", "lua", "llvm", "smarty", "diff", "common-lisp", "saltstack", "vue", "sass", "fish", "erlang", "freemarker", "stylus", "qml", "hcl", "html+django", "mako", "ada", "ocaml", "f#", "elm", "tex", "rdoc", "csv", "protocol-buffer", "smalltalk", "arduino", "java-server-pages", "scheme", "groff", "objective-c++", "desktop", "factor", "crystal", "rhtml", "haxe", "glsl", "gas", "html+php", "qmake", "julia", "cython", "html+eex", "tcl", "org", "perl6", "m4", "xslt", "svg", "nimrod", "r", "robotframework", "racket", "textile", "assembly", "purescript", "unity3d-asset", "visual-basic", "dm", "pod", "standard-ml", "fortran", "gettext-catalog", "idris", "livescript", "xtend", "actionscript", "vala", "awk", "ceylon", "jupyter-notebook", "dockerfile", "rouge", "asp", "sqf", "edn", "liquid", "xquery", "linker-script", "mediawiki", "parrot-internal-representation", "solidity", "json5", "systemverilog", "thrift", "groovy-server-pages", "processing", "cuda", "graphviz-dot", "inno-setup", "api-blueprint", "nsis", "gentoo-ebuild", "logtalk", "jasmin", "literate-coffeescript", "webidl", "coldfusion-cfc", "opencl", "openscad", "pan", "pascal", "pony", "turtle", "chapel", "ioke", "ooc", "sparql", "applescript", "augeas", "g-code", "mirah", "capn-proto", "digital-command-language", "hy", "logos", "modelica", "vcl", "antlr", "gdscript", "graphql", "hlsl", "gnuplot", "http", "ninja", "oz", "raml", "aspectj", "autohotkey", "fancy", "moonscript", "piglatin", "stata", "urweb", "xs", "yang", "agda", "coldfusion", "emberscript", "latte", "literate-haskell", "postscript", "scilab", "tcsh", "volt", "apl", "genshi", "jsonld", "krl", "lean", "lfe", "metal", "monkey", "mupad", "nesc", "nit", "pike", "purebasic", "renpy", "vhdl", "xproc", "zephir", "apacheconf", "boo", "brainfuck", "bro", "cartocss", "creole", "csound", "dylan", "eagle", "ecl", "eiffel", "flux", "io", "jsoniq", "lilypond", "lsl", "mask", "nginx", "nu", "pov-ray-sdl", "ragel-in-ruby-host", "slash", "sourcepawn", "squirrel", "ston", "uno", "wisp", "xbase", "yacc", "zig", "abap", "arc", "ats", "blitzmax", "bluespec", "c2hs-haskell", "clean", "dns-zone", "forth", "harbour", "igor-pro", "inform-7", "isabelle", "jflex", "literate-agda", "maple", "mathematica", "module-management-system", "mtml", "netlinx", "parrot-assembly", "pawn", "propeller-spin", "pure-data", "rebol", "red", "sage", "sas", "scaml", "smt", "supercollider", "unrealscript", "xpages"]
 
 
 
 
 
20
  _URL = "https://huggingface.co/datasets/bigcode/commitpackft/resolve/main/data/{lang}/data.jsonl"
21
  _VERSION = datasets.Version("1.0.0", "")
22
 
@@ -54,7 +59,7 @@ class CommitPackFT(datasets.GeneratorBasedBuilder):
54
 
55
  def _split_generators(self, dl_manager):
56
 
57
- downloaded_files = dl_manager.download(_URL.format(lang=self.config.name))
58
  return [
59
  datasets.SplitGenerator(
60
  name=datasets.Split.TRAIN,
 
17
  """
18
 
19
  _LANG = ["ruby", "yaml", "python", "markdown", "javascript", "json", "shell", "text", "php", "java", "html", "c#", "xml", "html+erb", "c", "ini", "coffeescript", "swift", "restructuredtext", "typescript", "c++", "scss", "go", "scala", "haml", "css", "rust", "toml", "jsx", "kotlin", "clojure", "perl", "bitbake", "groovy", "twig", "nix", "sql", "less", "haskell", "handlebars", "unknown", "batchfile", "cucumber", "makefile", "elixir", "jade", "cmake", "powershell", "slim", "emacs-lisp", "dart", "viml", "asciidoc", "lua", "llvm", "smarty", "diff", "common-lisp", "saltstack", "vue", "sass", "fish", "erlang", "freemarker", "stylus", "qml", "hcl", "html+django", "mako", "ada", "ocaml", "f#", "elm", "tex", "rdoc", "csv", "protocol-buffer", "smalltalk", "arduino", "java-server-pages", "scheme", "groff", "objective-c++", "desktop", "factor", "crystal", "rhtml", "haxe", "glsl", "gas", "html+php", "qmake", "julia", "cython", "html+eex", "tcl", "org", "perl6", "m4", "xslt", "svg", "nimrod", "r", "robotframework", "racket", "textile", "assembly", "purescript", "unity3d-asset", "visual-basic", "dm", "pod", "standard-ml", "fortran", "gettext-catalog", "idris", "livescript", "xtend", "actionscript", "vala", "awk", "ceylon", "jupyter-notebook", "dockerfile", "rouge", "asp", "sqf", "edn", "liquid", "xquery", "linker-script", "mediawiki", "parrot-internal-representation", "solidity", "json5", "systemverilog", "thrift", "groovy-server-pages", "processing", "cuda", "graphviz-dot", "inno-setup", "api-blueprint", "nsis", "gentoo-ebuild", "logtalk", "jasmin", "literate-coffeescript", "webidl", "coldfusion-cfc", "opencl", "openscad", "pan", "pascal", "pony", "turtle", "chapel", "ioke", "ooc", "sparql", "applescript", "augeas", "g-code", "mirah", "capn-proto", "digital-command-language", "hy", "logos", "modelica", "vcl", "antlr", "gdscript", "graphql", "hlsl", "gnuplot", "http", "ninja", "oz", "raml", "aspectj", "autohotkey", "fancy", "moonscript", "piglatin", "stata", "urweb", "xs", "yang", "agda", "coldfusion", "emberscript", "latte", "literate-haskell", "postscript", "scilab", "tcsh", "volt", "apl", "genshi", "jsonld", "krl", "lean", "lfe", "metal", "monkey", "mupad", "nesc", "nit", "pike", "purebasic", "renpy", "vhdl", "xproc", "zephir", "apacheconf", "boo", "brainfuck", "bro", "cartocss", "creole", "csound", "dylan", "eagle", "ecl", "eiffel", "flux", "io", "jsoniq", "lilypond", "lsl", "mask", "nginx", "nu", "pov-ray-sdl", "ragel-in-ruby-host", "slash", "sourcepawn", "squirrel", "ston", "uno", "wisp", "xbase", "yacc", "zig", "abap", "arc", "ats", "blitzmax", "bluespec", "c2hs-haskell", "clean", "dns-zone", "forth", "harbour", "igor-pro", "inform-7", "isabelle", "jflex", "literate-agda", "maple", "mathematica", "module-management-system", "mtml", "netlinx", "parrot-assembly", "pawn", "propeller-spin", "pure-data", "rebol", "red", "sage", "sas", "scaml", "smt", "supercollider", "unrealscript", "xpages"]
20
+
21
+ _LANG_TO_URL_ESCAPE = {
22
+ "c#": "c%23",
23
+ }
24
+
25
  _URL = "https://huggingface.co/datasets/bigcode/commitpackft/resolve/main/data/{lang}/data.jsonl"
26
  _VERSION = datasets.Version("1.0.0", "")
27
 
 
59
 
60
  def _split_generators(self, dl_manager):
61
 
62
+ downloaded_files = dl_manager.download(_URL.format(lang=_LANG_TO_URL_ESCAPE.get(self.config.name,self.config.name)))
63
  return [
64
  datasets.SplitGenerator(
65
  name=datasets.Split.TRAIN,