s3/download-all-from-s3.sh → misc/download-all-from-s3.sh

@@ -30,8 +30,8 @@ pref16
 pref17
 pref18
 pref19
-pref2A
-pref2B
+pref2a
+pref2b
 pref21
 pref22
 pref23
@@ -111,7 +111,9 @@ pref971
 pref972
 pref973
 pref974
-pref976"
+pref976
+prefidf
+prefpaca"
 
 if test -z "$s3_key" || test -z "$s3_secret" || test -z "$s3_host" || test -z "$s3_bucket" || test -z "$dest"; then
 	echo "Usage: ${0} <s3_key> <s3_secret> <s3_host> <s3_bucket> <dest>"

misc/fix-pref75-prefidf-url.py

+#!/usr/bin/env python3
+
+import argparse
+import json
+import os
+import re
+
+from urllib.parse import unquote
+
+import hashlib
+
+parser = argparse.ArgumentParser(
+    prog='./misc/fix-pref75-prefidf-url.py',
+    description='Met à jour les URL des RAA de Paris et d\'Idf'
+)
+
+parser.add_argument(
+    '--data-dir',
+    action='store',
+    help='dossier de données (par défaut: data/)'
+)
+
+parser.add_argument(
+    '--dry-run',
+    action='store_true',
+    help='ne modifie aucun fichier, affiche seulement les modifications nécessaires (par défaut: false)'
+)
+
+args = parser.parse_args()
+
+if args.data_dir:
+    data_dir = args.data_dir
+else:
+    data_dir = 'data/'
+dry_run = args.dry_run
+
+if data_dir.startswith('/'):
+    data_dir = os.path.abspath(data_dir)
+else:
+    data_dir = os.path.abspath(os.path.dirname(os.path.abspath(__file__)) + '/../' + data_dir)
+
+for administration in os.listdir(data_dir):
+    # On ne cherche que les dossiers prefidf et pref75
+    if administration == 'prefidf' or administration == 'pref75':
+        administration_path = os.path.abspath(data_dir + '/' + administration + '/raa/')
+        for raa in os.listdir(administration_path):
+            if raa.endswith('.json'):
+                raa_id = re.sub('\\.json$', '', raa)
+                fixed = False
+
+                raa_path = os.path.abspath(administration_path + '/' + raa)
+                txt_path = re.sub('\\.json$', '.txt', raa_path)
+                raa_file_read = open(raa_path, 'r')
+                raa_json = json.load(raa_file_read)
+                raa_file_read.close()
+
+                url = raa_json.get('url')
+                if url.startswith('https://www.prefectures-regions.gouv.fr/ile-de-france/ile-de-france/ile-de-france/irecontenu/telechargement/'):
+                    raa_json['url'] = url.replace('https://www.prefectures-regions.gouv.fr/ile-de-france/ile-de-france/ile-de-france/irecontenu/telechargement/', 'https://www.prefectures-regions.gouv.fr/ile-de-france/irecontenu/telechargement/')
+                    fixed_raa_json = {}
+                    for key in raa_json:
+                        fixed_raa_json[key] = raa_json[key]
+                    fixed_raa_id = hashlib.sha256(unquote(raa_json['url']).encode('utf-8')).hexdigest()
+                    fixed_raa_path = raa_path.replace(raa_id, fixed_raa_id)
+                    fixed_txt_path = txt_path.replace(raa_id, fixed_raa_id)
+
+                    print(f'{raa_id} -> {fixed_raa_id}:')
+                    print(f"    {raa_json['url']}")
+                    print('')
+
+                    if not dry_run:
+                        raa_file_write = open(fixed_raa_path, 'w')
+                        raa_file_write.write(json.dumps(fixed_raa_json))
+                        raa_file_write.close()
+                        os.remove(raa_path)
+                        os.rename(txt_path, fixed_txt_path)

misc/update_metadata_format.py

+#!/usr/bin/env python3
+
+import argparse
+import datetime
+import io
+import json
+import os
+import pytz
+import sys
+import re
+import requests
+
+sys.path.append(os.path.dirname(__file__) + '/../')
+from Attrap_pref976 import Attrap_pref976
+from Attrap import Attrap
+
+from pypdf import PdfReader
+
+tz_paris = pytz.timezone('Europe/Paris')
+session = requests.Session()
+
+
+def fix_raa_date_v0(raa_json):
+    try:
+        raa_json['date'] = tz_paris.localize(datetime.datetime.strptime(raa_json['date'], '%d/%m/%Y')).strftime('%Y-%m-%d')
+        return raa_json
+    except Exception:
+        print(f"\033[91m{exc=}, {type(exc)=}\033[0m")
+        sys.exit(1)
+        return raa_json
+
+
+def fix_pdf_date_v0(raa_json, json_key):
+    if not raa_json[json_key]:
+        return raa_json
+
+    try:
+        # On tente de parser avec fuseau horaire
+        raa_json[json_key] = datetime.datetime.strptime(raa_json[json_key], '%d/%m/%Y %H:%M:%S%z').astimezone(pytz.utc).isoformat(timespec="seconds")
+        return raa_json
+    except Exception:
+        try:
+            # Sinon on tente de parser sans fuseau horaire et on retourne une date avec le fuseau de Paris
+            raa_json[json_key] = tz_paris.localize(datetime.datetime.strptime(raa_json[json_key], '%d/%m/%Y %H:%M:%S')).astimezone(pytz.utc).isoformat(timespec="seconds")
+            return raa_json
+        except Exception as exc:
+            print(f"\033[91m{exc=}, {type(exc)=}\033[0m")
+            sys.exit(1)
+            return raa_json
+
+
+def fix_json(raa_json, raa_id, administration):
+    version = raa_json.get('version')
+
+    match version:
+        # Si le fichier de métadonnées n'a pas de version, il a été généré avant le 14/11/2024 et doit être corrigé
+        # v0 -> v1 : les dates sont au format YYYY-MM-DD et heure locale
+        #            les heures sont au format YYYY-MM-DD HH:mm:ss±ZZ:ZZ et heure UTC
+        case None:
+            print(f"{raa_id}: v0 -> v1")
+            date = raa_json['date']
+            first_seen_on = raa_json['first_seen_on']
+            pdf_creation_date = raa_json['pdf_creation_date']
+            pdf_modification_date = raa_json['pdf_modification_date']
+
+            print(f"{administration}: {raa_json['name']} ({raa_id}):")
+
+            fixed_raa_json = fix_raa_date_v0(raa_json)
+            if not date == fixed_raa_json['date']:
+                print(f"    date: {date} -> {fixed_raa_json['date']}")
+
+            fixed_raa_json = fix_pdf_date_v0(fixed_raa_json, 'first_seen_on')
+            if not raa_json == fixed_raa_json:
+                print(f"    first_seen_on: {first_seen_on} -> {fixed_raa_json['first_seen_on']}")
+
+            fixed_raa_json = fix_pdf_date_v0(fixed_raa_json, 'pdf_creation_date')
+            if not pdf_creation_date == fixed_raa_json['pdf_creation_date']:
+                print(f"    pdf_creation_date: {pdf_creation_date} -> {fixed_raa_json['pdf_creation_date']}")
+
+            fixed_raa_json = fix_pdf_date_v0(fixed_raa_json, 'pdf_modification_date')
+            if not pdf_modification_date == fixed_raa_json['pdf_modification_date']:
+                print(f"    pdf_modification_date: {pdf_modification_date} -> {fixed_raa_json['pdf_modification_date']}")
+
+            ordered_fixed_raa_json = {'version': 1}
+            for key in fixed_raa_json:
+                ordered_fixed_raa_json[key] = fixed_raa_json[key]
+
+            fixed_raa_json = ordered_fixed_raa_json
+            return fix_json(fixed_raa_json, raa_id, administration)
+
+        # Si le fichier de métadonnées est en version 1, il ne contient pas le fuseau horaire de l'administration.
+        # v1 -> v2: ajout du fuseau horaire (Europe/Paris sauf Mayotte Indian/Mayotte)
+        case 1:
+            print(f"{raa_id}: v1 -> v2")
+            if administration == 'pref976':
+                print('    Téléchargement du RAA pour recalculer les dates avec le fuseau horaire de Mayotte')
+                # Il faut retélécharger le RAA pour vérifier que les heures sont dans le bon fuseau
+                session.headers.update({'User-Agent': Attrap_pref976.user_agent})
+                pdf_resource = session.get(raa_json['url'], timeout=(10, 120), stream=True)
+                pdf = io.BytesIO(pdf_resource.content)
+                reader = PdfReader(pdf)
+                pdf_metadata = reader.metadata
+
+                if pdf_metadata:
+                    if pdf_metadata.creation_date:
+                        pdf_creation_date = Attrap.get_aware_datetime(pdf_metadata.creation_date, timezone=Attrap_pref976.timezone)
+                        raa_json['pdf_creation_date'] = pdf_creation_date.astimezone(pytz.utc).isoformat(timespec="seconds")
+                    if pdf_metadata.modification_date:
+                        pdf_modification_date = Attrap.get_aware_datetime(pdf_metadata.modification_date, timezone=Attrap_pref976.timezone)
+                        raa_json['pdf_modification_date'] = pdf_modification_date.astimezone(pytz.utc).isoformat(timespec="seconds")
+
+            print('    Ajout du fuseau horaire')
+            if administration == 'pref976':
+                raa_json['timezone'] = Attrap_pref976.timezone
+            else:
+                raa_json['timezone'] = 'Europe/Paris'
+            raa_json['version'] = 2
+            return fix_json(raa_json, raa_id, administration)
+
+        case 2:
+            return raa_json
+
+        case _:
+            print(f'Version inconnue : {version}')
+            sys.exit(1)
+
+
+parser = argparse.ArgumentParser(
+    prog='./misc/update_metadata_format.py',
+    description='Met à jour le format des fichiers de métadonnées'
+)
+
+parser.add_argument(
+    '--data-dir',
+    action='store',
+    help='dossier de données (par défaut: data/)'
+)
+
+parser.add_argument(
+    '--dry-run',
+    action='store_true',
+    help='ne modifie aucun fichier, affiche seulement les modifications nécessaires (par défaut: false)'
+)
+
+args = parser.parse_args()
+
+if args.data_dir:
+    data_dir = args.data_dir
+else:
+    data_dir = 'data/'
+dry_run = args.dry_run
+
+if data_dir.startswith('/'):
+    data_dir = os.path.abspath(data_dir)
+else:
+    data_dir = os.path.abspath(os.path.dirname(os.path.abspath(__file__)) + '/../' + data_dir)
+
+for administration in os.listdir(data_dir):
+    # On ne cherche que les dossiers ppparis et pref*
+    if administration.startswith('pref') or administration == 'ppparis':
+        administration_path = os.path.abspath(data_dir + '/' + administration + '/raa/')
+        for raa in os.listdir(administration_path):
+            if raa.endswith('.json'):
+                raa_id = re.sub('\\.json$', '', raa)
+                fixed = False
+
+                raa_path = os.path.abspath(administration_path + '/' + raa)
+                raa_file_read = open(raa_path, 'r')
+                raa_json = json.load(raa_file_read)
+                raa_file_read.close()
+
+                version = raa_json.get('version')
+                if version != 2:
+                    fixed_raa_json = fix_json(raa_json, raa_id, administration)
+
+                    if not dry_run:
+                        raa_file_write = open(raa_path, 'w')
+                        raa_file_write.write(json.dumps(fixed_raa_json))
+                        raa_file_write.close()
+    else:
+        print(f'On ignore {administration}...')

s3/upload-all-to-s3.sh → misc/upload-all-to-s3.sh

@@ -30,8 +30,8 @@ pref16
 pref17
 pref18
 pref19
-pref2A
-pref2B
+pref2a
+pref2b
 pref21
 pref22
 pref23
@@ -111,7 +111,9 @@ pref971
 pref972
 pref973
 pref974
-pref976"
+pref976
+prefidf
+prefpaca"
 
 if test -z "$s3_key" || test -z "$s3_secret" || test -z "$s3_host" || test -z "$s3_bucket" || test -z "$data"; then
 	echo "Usage: ${0} <s3_key> <s3_secret> <s3_host> <s3_bucket> <data>"

requirements.txt

@@ -5,6 +5,7 @@ Mastodon.py>=1.8.1
 ocrmypdf<16.4.0
 pycodestyle>=2.11.1
 pypdf>=4.2.0
+pytz>=2024.2
 PyVirtualDisplay>=3.0
 requests>=2.31.0
 selenium>=4.19.0