Skip to content
Extraits de code Groupes Projets
Attrap_pref38.py 4,62 ko
Newer Older
Bastien Le Querrec's avatar
Bastien Le Querrec a validé
import os
import datetime
import logging

from bs4 import BeautifulSoup
from urllib.parse import unquote

from Attrap import Attrap

logger = logging.getLogger(__name__)


class Attrap_pref38(Attrap):

    # Config
    __HOST = 'https://www.isere.gouv.fr'
    __RAA_PAGE = [
        f'{__HOST}/Publications/RAA-Recueil-des-actes-administratifs',
        f'{__HOST}/Publications/RAA-Recueil-des-actes-administratifs/Archives'
    ]
    __USER_AGENT = 'Mozilla/5.0 (Windows NT 10.0; rv:109.0) Gecko/20100101 Firefox/115.0'
Bastien Le Querrec's avatar
Bastien Le Querrec a validé
    full_name = 'Préfecture de l\'Isère'
    short_code = 'pref38'

    def __init__(self, data_dir):
        super().__init__(data_dir, self.__USER_AGENT)
Bastien Le Querrec's avatar
Bastien Le Querrec a validé

    def get_raa(self, keywords):
        pages_to_parse = []

        # On cherche les pages d'années. Elles sont mélangées dans des blocs de cartes grises et des blocs blancs avec pager
        for page in self.__RAA_PAGE:
            page_content = self.get_page(page, 'get').content
            # On parse les cartes grises
            cards = self.get_sub_pages(
                page_content,
                '.fr-card.fr-card--sm.fr-card--grey.fr-enlarge-link div.fr-card__body div.fr-card__content h2.fr-card__title a',
                self.__HOST,
                False
            )[::-1]
            for card in cards:
                year = Attrap.guess_date(card['name'].strip(), '.*([0-9]{4})').year
                if year >= self.not_before.year and year < 9999:
                    pages_to_parse.append(card['url'])
            # On parse les blocs blancs
            blocks = self.get_sub_pages_with_pager(
                page,
                'div.fr-card.fr-card--horizontal.fr-card--sm.fr-enlarge-link.fr-mb-3w div.fr-card__body div.fr-card__content h2.fr-card__title a.fr-card__link',
                'ul.fr-pagination__list li a.fr-pagination__link.fr-pagination__link--next.fr-pagination__link--lg-label',
                None,
                self.__HOST
            )
            for block in blocks:
                year = Attrap.guess_date(block['name'].strip(), '.*([0-9]{4})').year
                if year >= self.not_before.year and year < 9999:
                    pages_to_parse.append(block['url'])
Bastien Le Querrec's avatar
Bastien Le Querrec a validé

        elements = []
        for raa_page in pages_to_parse:
            page_content = self.get_page(raa_page, 'get').content
            for element in self.get_raa_elements(page_content, raa_page):
                elements.append(element)

        self.parse_raa(elements, keywords)
        self.mailer()

    def get_raa_elements(self, page_content, raa_page):
        elements = []
        # On charge le parser
        soup = BeautifulSoup(page_content, 'html.parser')

        # On récupère le select qui contient la liste des RAA
        select_list = soup.select('select#-liste-docs')[0]
        # On analyse chaque résultat
        for option in select_list.find_all('option'):
            if not option['value'] == "":
                # On estime la date à partir du nom de fichier
                guessed_date = Attrap.guess_date(option['title'], '.* n°[ 0-9]* du ([0-9]*(?:er)? [a-zéû]* [0-9]*)')

                # Si la date estimée correspond à la plage d'analyse, on
                # demande au serveur les détails du RAA
                if guessed_date >= self.not_before:
                    page_content = self.get_page(
                        raa_page,
                        'post',
                        {
                            '-liste-docs': option['value']
                        }
                    ).content

                    # On parse la page de détails pour obtenir les propriétés
                    # du RAA
                    soup = BeautifulSoup(page_content, 'html.parser')
                    a = soup.select('div.liste_deroulante a.fr-link.fr-link--download')[0]

                    # Si la page contient une balise a qui renvoie vers un pdf,
                    # c'est qu'on a obtenu les détails du RAA demandé, donc
                    # on le parse
                    if a.get('href') and a['href'].endswith('.pdf'):
                        if a['href'].startswith('/'):
                            url = f"{self.__HOST}{a['href']}"
                        else:
                            url = a['href']

                        url = unquote(url)
                        name = a.find('span').previous_sibling.replace('Télécharger ', '').strip()
                        date = datetime.datetime.strptime(a.find('span').get_text().split(' - ')[-1].strip(), '%d/%m/%Y')

                        raa = Attrap.RAA(url, date, name)
                        elements.append(raa)
        return elements