reddrex commited on
Commit
f1b20ca
·
verified ·
1 Parent(s): e63ab91

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +46 -63
README.md CHANGED
@@ -9,94 +9,77 @@ tags:
9
  - spanish
10
  - NLP
11
  ---
12
- # Dataset Card for Lingcomp_QA
13
 
14
  <!-- Provide a quick summary of the dataset. -->
 
 
15
 
16
- This dataset card aims to be a base template for new datasets. It has been generated using [this raw template](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/templates/datasetcard_template.md?plain=1).
17
 
18
- ## Dataset Details
19
-
20
- ### Dataset Description
21
 
22
  <!-- Provide a longer summary of what this dataset is. -->
 
 
 
23
 
24
 
25
-
26
- - **Curated by:** @reddrex (Jorge Zamora Rey), (Isabel Moyano Moreno), (Mario Crespo Miguel)
27
  - **Language(s) (NLP):** Spanish
28
  - **License:** Creative Commons Attribution Non Commercial Share Alike 4.0
29
 
30
- ### Dataset Sources [optional]
31
-
32
- <!-- Provide the basic links for the dataset. -->
33
-
34
- - **Repository:** [More Information Needed]
35
- - **Paper [optional]:** [More Information Needed]
36
-
37
- ## Uses
38
-
39
- <!-- Address questions around how the dataset is intended to be used. -->
40
-
41
- ### Direct Use
42
 
43
- <!-- This section describes suitable use cases for the dataset. -->
44
 
45
- ## Dataset Creation
46
-
47
-
48
- ### Curation Rationale
49
 
50
- <!-- Motivation for the creation of this dataset. -->
 
 
 
51
 
52
- [More Information Needed]
53
 
54
- ### Source Data
55
 
56
  <!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
57
-
58
- #### Data Collection and Processing
59
-
60
- <!-- This section describes the data collection and processing process such as data selection criteria, filtering and normalization methods, tools and libraries used, etc. -->
61
-
62
- [More Information Needed]
63
-
64
- #### Who are the source data producers?
65
-
66
- <!-- This section describes the people or systems who originally created the data. It should also include self-reported demographic or identity information for the source data creators if this information is available. -->
67
-
68
- [More Information Needed]
69
-
70
- ### Annotations [optional]
71
-
72
- <!-- If the dataset contains annotations which are not part of the initial data collection, use this section to describe them. -->
73
-
74
- #### Annotation process
75
-
76
- <!-- This section describes the annotation process such as annotation tools used in the process, the amount of data annotated, annotation guidelines provided to the annotators, interannotator statistics, annotation validation, etc. -->
77
-
78
- El proceso de anotación fue manual, creando preguntas para la información encontrada
79
-
80
- #### Personal and Sensitive Information
81
-
82
- <!-- State whether the dataset contains data that might be considered personal, sensitive, or private (e.g., data that reveals addresses, uniquely identifiable names or aliases, racial or ethnic origins, sexual orientations, religious beliefs, political opinions, financial or health data, etc.). If efforts were made to anonymize the data, describe the anonymization process. -->
83
-
84
- [More Information Needed]
85
-
86
- ## Bias, Risks, and Limitations
87
 
88
  <!-- This section is meant to convey both technical and sociotechnical limitations. -->
89
-
90
- [More Information Needed]
 
91
 
92
  ## Citation
93
 
94
  <!-- If there is a paper or blog post introducing the dataset, the APA and Bibtex information for that should go in this section. -->
95
 
96
- **BibTeX:**
97
 
98
- [More Information Needed]
99
 
100
- **APA:**
101
 
102
- [More Information Needed]
 
9
  - spanish
10
  - NLP
11
  ---
12
+ # Dataset Card de Lingcomp_QA
13
 
14
  <!-- Provide a quick summary of the dataset. -->
15
+ Este es un dataset creado a partir de blogs de internet y páginas en abierto sobre lingüística computacional. Contiene algunos temas de estadística, lingüística e informática
16
+ (especialmente cuestiones relacionadas con Python, el principal lenguaje de programación para el procesamiento del lenguaje natural).
17
 
18
+ ## Detalles del dataset
19
 
20
+ ### Descripción del dataset
 
 
21
 
22
  <!-- Provide a longer summary of what this dataset is. -->
23
+ Este dataset tiene la intención de ser educativo, explicando ciertos conceptos o respondiendo preguntas relacionadas con la evolución de la disciplina o de las funciones y aspectos
24
+ básicos de Python y algunos paquetes como Wordnet o NLTK. También responde algunas cuestiones de lingüística de corpus y, por tanto, de estadística, especialmente cuestiones
25
+ de explicación de conceptos. Actualmente tiene 1911 pares de pregunta-respuesta.
26
 
27
 
28
+ - **Recogido por:** @reddrex (Jorge Zamora Rey), (Isabel Moyano Moreno), (Mario Crespo Miguel)
 
29
  - **Language(s) (NLP):** Spanish
30
  - **License:** Creative Commons Attribution Non Commercial Share Alike 4.0
31
 
32
+ ### Uso del dataset
33
+ Nuestra intención principal de cara al futuro es aumentarlo con otras fuentes de información y emplearlo para crear un agente conversacional que ayude a los alumnos
34
+ de las asignaturas de Lingüística computacional e Ingeniería del Lenguaje del grado de Lingüística y lenguas aplicadas, además de otras personas interesadas en este ámbito,
35
+ aunque nuestro foco principal son lingüistas, toda persona interesada es bienvenida.
 
 
 
 
 
 
 
 
36
 
37
+ ### Links del dataset
38
 
39
+ <!-- Provide the basic links for the dataset. -->
40
+ - **Repositorio:** https://github.com/reddrex/lingcomp_QA/tree/main
41
+ <!-- Paper [optional]:** [More Information Needed] -->
 
42
 
43
+ ## Creación del dataset
44
+ Para este dataset hemos empleado los apuntes de la asignatura de Lingüística computacional del grado de Lingüística y lenguas aplicadas de la universidad de Cádiz, y algunas
45
+ cuestiones de la asignatura de Ingeniería del lenguaje. Además, hemos añadido la información que ha aparecido en páginas web en español, especialmente blogs, encontradas a través de Bootcat
46
+ al realizar una búsqueda de términos de la lingüística computacional. Estos términos los hemos elegido de los principales temas tratados en libros específicos como el de Jurafsky y Martin de Speech and Language Processing.
47
 
48
+ Herramientas: Bootcat para la extracción de .txt de webs, Sublime text para la organización en preguntas y respuestas en JSON y la limpieza con regex.
49
 
50
+ ### Fuentes de información
51
 
52
  <!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
53
+ Está conformado por preguntas y respuestas formuladas a partir de los apuntes de las asignaturas de las asignaturas mencionadas anteriormente, artículos de wikipedia y blogs
54
+ que tratan información relacionada a términos de la lingüística computacional , o explican cómo utilizar ciertos paquetes o programar en Python.
55
+
56
+ La información recogida está relacionada mayoritariamente con los siguientes conceptos:
57
+ - Algoritmos y formalismos
58
+ - Lenguaje de programación
59
+ - CPU/GPU
60
+ - Entornos como colab o jupyter
61
+ - Python: tipos de datos, funciones built-in, métodos, programación orientada a objetos, comprensión de listas, etc.
62
+ - NLTK
63
+ - SpaCy
64
+ - Historia y evolución del PLN
65
+ - PLN/Lingüística computacional (sintaxis y semántica computacional, diferencias, conceptos...)
66
+ - Lingüística
67
+ - Recursos como FrameNet, WordNet, Treebank, Corpus Brown, ontologías
68
+ - Lingüística de corpus: concordancias, colocaciones, cuestiones de estadística (chi-cuadrado, log-likelihood, datos, muestreo...)
69
+
70
+ ## Sesgos, Riesgos, y Limitaciones
 
 
 
 
 
 
 
 
 
 
 
 
71
 
72
  <!-- This section is meant to convey both technical and sociotechnical limitations. -->
73
+ Ha habido cierto límite de tiempo en el que es especialmente difícil recabar tanta información como la que puede haber en un campo como la lingüística computacional, así que
74
+ nos hemos limitado a cubrir ciertos temas básicos relacionados con este ámbito. Además, otro problema es la escasez de información en abierto disponible para crear un corpus,
75
+ ya que la mayoría de información que hemos encontrado en relación a estos temas pertenecía a artículos científicos.
76
 
77
  ## Citation
78
 
79
  <!-- If there is a paper or blog post introducing the dataset, the APA and Bibtex information for that should go in this section. -->
80
 
81
+ **APA:**
82
 
83
+ Pending.
84
 
 
85