项目作者: beejeke

项目描述 :
Repositorio para la práctica 1 (Web scraping) de la asignatura Tipología y ciclo de vida de los datos del máster en Ciencia de Datos (UOC)
高级语言: Python
项目地址: git://github.com/beejeke/nanosat-scraping.git
创建时间: 2020-10-15T09:53:21Z
项目社区:https://github.com/beejeke/nanosat-scraping

开源协议:

下载


Nanosat Scraper 🛰



Práctica 1: Web scraping

Descripción

Esta práctica ha sido desarrollada para la asignatura Tipología y ciclo de vida de los datos,
perteneciente al Máster Universitario en Ciencia de Datos, por la Universitat Oberta de Catalunya UOC.

El objetivo principal de dicha práctica es la aplicación de técnicas de web scraping,
usando el lenguaje de programación Python para la extracción de datos de un sitio web y generar posteriormente
un dataset con dicha información.

Legalidad

El sitio web no contiene un recurso robots.txt. A continuación se cita al autor y el sitio web, acorde a las especificaciones de los términos y condiciones de uso: “Erik Kulu, Nanosats Database, www.nanostar.eu”

Uso de la herramienta

Para poder hacer uso de la herramienta, hay que realizar una serie de pasos.

  • Creamos un entorno virtual de Python y lo activamos.
    1. python3 -m venv <nombre_env>
  • Instalamos las dependencias, tanto del requirements.txt como del setup.py
    1. pip install -r requirements.txt
    2. pip install -e .
  • Hacemos uso del CLI con el comando web-scraping
    ```

    Por ejemplo, queremos obtener la información de todos los nanosatélites del sitio web

    con variantes:

$ web-scraping scrape
$ web-scraping -a
$ web-scraping —all

  1. Además, podemos obtener los datos del número de nanosatélites que queramos.

Por ejemplo, queremos obtener la información de los primeros 75 nanosatélites del sitio web

con variantes:

$ web-scraping scrape -n 75
$ web-scraping —number 75

  1. O también, en función del estado de la misión que queremos obtener datos, podemos elegir entre ```launched```,
  2. ```not-launched``` o ```all
  1. # Por ejemplo, queremos obtener la información de los primeros 850 nanosatélites del sitio web
  2. # pero que hayan sido lanzados con éxito:
  3. $ web-scraping scape -n 850 -s launched
  4. $ web-scraping scape -n 850 --status launched

Integrantes del equipo