Skip to content
GitLab
Explorer
Connexion
Navigation principale
Rechercher ou aller à…
Projet
Attrap
Gestion
Activité
Membres
Labels
Programmation
Tickets
Tableaux des tickets
Jalons
Wiki
Code
Requêtes de fusion
Dépôt
Branches
Validations
Étiquettes
Graphe du dépôt
Comparer les révisions
Compilation
Pipelines
Jobs
Planifications de pipeline
Artéfacts
Déploiement
Releases
Registre de paquets
Registre de conteneur
Opération
Modules Terraform
Aide
Aide
Support
Documentation de GitLab
Comparer les forfaits GitLab
Forum de la communauté
Contribuer à GitLab
Donner votre avis
Conditions générales et politique de confidentialité
Raccourcis clavier
?
Extraits de code
Groupes
Projets
Afficher davantage de fils d'Ariane
olivain
Attrap
Validations
a2f8af9c
Valider
a2f8af9c
rédigé
il y a 7 mois
par
Bastien Le Querrec
Parcourir les fichiers
Options
Téléchargements
Correctifs
Plain Diff
pref03: ajout de la préfecture de l'Allier
parent
2d3199fe
Aucune branche associée trouvée
Branches contenant la validation
Aucune étiquette associée trouvée
Aucune requête de fusion associée trouvée
Modifications
5
Masquer les modifications d'espaces
En ligne
Côte à côte
Affichage de
5 fichiers modifiés
.gitlab-ci.yml
+5
-0
5 ajouts, 0 suppression
.gitlab-ci.yml
Attrap_pref03.py
+60
-0
60 ajouts, 0 suppression
Attrap_pref03.py
Makefile
+3
-1
3 ajouts, 1 suppression
Makefile
README.md
+1
-0
1 ajout, 0 suppression
README.md
cli.py
+1
-0
1 ajout, 0 suppression
cli.py
avec
70 ajouts
et
1 suppression
.gitlab-ci.yml
+
5
−
0
Voir le fichier @
a2f8af9c
...
...
@@ -99,6 +99,11 @@ test_ppparis:
PREF
:
"
ppparis"
extends
:
.default_pref
test_pref03
:
variables
:
PREF
:
"
pref03"
extends
:
.default_pref
test_pref04
:
variables
:
PREF
:
"
pref04"
...
...
Ce diff est replié.
Cliquez pour l'agrandir.
Attrap_pref03.py
0 → 100644
+
60
−
0
Voir le fichier @
a2f8af9c
import
os
import
datetime
from
bs4
import
BeautifulSoup
from
urllib.parse
import
unquote
from
Attrap
import
Attrap
class
Attrap_pref03
(
Attrap
):
# Config
__HOST
=
'
https://www.allier.gouv.fr
'
__RAA_PAGE
=
f
'
{
__HOST
}
/Publications/Recueil-des-actes-administratifs-arretes
'
__USER_AGENT
=
'
Mozilla/5.0 (X11; Linux x86_64; rv:129.0) Gecko/20100101 Firefox/129.0
'
full_name
=
'
Préfecture de l
\'
Allier
'
short_code
=
'
pref03
'
def
__init__
(
self
,
data_dir
):
super
().
__init__
(
data_dir
,
self
.
__USER_AGENT
)
self
.
set_sleep_time
(
30
)
def
get_raa
(
self
,
keywords
):
elements
=
[]
page_content
=
self
.
get_page
(
self
.
__RAA_PAGE
,
'
get
'
).
content
for
sub_page
in
self
.
get_sub_pages
(
page_content
,
'
div.fr-card__body div.fr-card__content h2.fr-card__title a
'
,
self
.
__HOST
,
False
):
if
Attrap
.
guess_date
(
sub_page
[
'
name
'
],
'
.* ([0-9]{4})
'
).
year
>=
self
.
not_before
.
year
:
sub_page_content
=
self
.
get_page
(
sub_page
[
'
url
'
],
'
get
'
).
content
for
element
in
self
.
get_raa_elements
(
sub_page_content
):
elements
.
append
(
element
)
self
.
parse_raa
(
elements
,
keywords
)
self
.
mailer
()
def
get_raa_elements
(
self
,
page_content
):
elements
=
[]
# On charge le parser
soup
=
BeautifulSoup
(
page_content
,
'
html.parser
'
)
# Pour chaque balise a, on regarde si c'est un PDF, et si oui on le
# parse
for
a
in
soup
.
select
(
'
a.fr-link.fr-link--download
'
):
if
a
.
get
(
'
href
'
)
and
a
[
'
href
'
].
endswith
(
'
.pdf
'
):
if
a
[
'
href
'
].
startswith
(
'
/
'
):
url
=
f
"
{
self
.
__HOST
}{
a
[
'
href
'
]
}
"
else
:
url
=
a
[
'
href
'
]
url
=
unquote
(
url
)
name
=
a
.
find
(
'
span
'
).
previous_sibling
.
replace
(
'
Télécharger
'
,
''
).
strip
()
date
=
datetime
.
datetime
.
strptime
(
a
.
find
(
'
span
'
).
get_text
().
split
(
'
-
'
)[
-
1
].
strip
(),
'
%d/%m/%Y
'
)
raa
=
Attrap
.
RAA
(
url
,
date
,
name
)
elements
.
append
(
raa
)
return
elements
Ce diff est replié.
Cliquez pour l'agrandir.
Makefile
+
3
−
1
Voir le fichier @
a2f8af9c
make
:
ppparis pref04 pref05 pref06 pref09 pref13 pref25 pref31 pref33 pref34 pref35 pref38 pref42 pref44 pref59 pref62 pref63 pref64 pref65 pref66 pref69 pref73 pref75 pref80 pref81 pref83 pref87 pref93 pref94 pref976 prefIdf
make
:
ppparis
pref03
pref04 pref05 pref06 pref09 pref13 pref25 pref31 pref33 pref34 pref35 pref38 pref42 pref44 pref59 pref62 pref63 pref64 pref65 pref66 pref69 pref73 pref75 pref80 pref81 pref83 pref87 pref93 pref94 pref976 prefIdf
ppparis
:
bin/python3 cli.py ppparis
pref03
:
bin/python3 cli.py pref03
pref04
:
bin/python3 cli.py pref04
pref05
:
...
...
Ce diff est replié.
Cliquez pour l'agrandir.
README.md
+
1
−
0
Voir le fichier @
a2f8af9c
...
...
@@ -57,6 +57,7 @@ Vous pouvez également activer le safe mode en spécifiant la variable d'environ
## Administrations supportées
-
Préfecture de police de Paris (identifiant :
`ppparis`
)
-
Préfecture de l'Allier (identifiant :
`pref03`
)
-
Préfecture des Alpes-de-Haute-Provence (identifiant :
`pref04`
)
-
Préfecture des Hautes-Alpes (identifiant :
`pref05`
)
-
Préfecture des Alpes-Maritimes (identifiant :
`pref06`
)
...
...
Ce diff est replié.
Cliquez pour l'agrandir.
cli.py
+
1
−
0
Voir le fichier @
a2f8af9c
...
...
@@ -45,6 +45,7 @@ __MASTODON_INSTANCE = os.getenv('MASTODON_INSTANCE')
# Liste des administrations supportées
available_administrations
=
[
'
ppparis
'
,
'
pref03
'
,
'
pref04
'
,
'
pref05
'
,
'
pref06
'
,
...
...
Ce diff est replié.
Cliquez pour l'agrandir.
Aperçu
0%
Chargement en cours
Veuillez réessayer
ou
joindre un nouveau fichier
.
Annuler
You are about to add
0
people
to the discussion. Proceed with caution.
Terminez d'abord l'édition de ce message.
Enregistrer le commentaire
Annuler
Veuillez vous
inscrire
ou vous
se connecter
pour commenter