Wicri:RenardV1

De Wicri Bois
Révision datée du 4 janvier 2024 à 18:00 par Jacques Ducloy (discussion | contributions) (Transfert vers la machine LorExplor)

Cette page introduit les aspects techniques de la version RenardV1 du « Serveur d'exploration sur le renard ».

Voir aussi :

Initialisations

Génération des pages wikis
source IstexGetCorpusSize -q "vulpes AND (france OR germany OR belg* OR luxembourg)"
 IstexGenerAreaPages \
       -a RenardV1   \
       -m   \
       -g Renard   \
       -p Wicri/Bois   \
       -w wicri-bois.fr  \
       -W Wicri/Bois   \
       -s PascalFrancis   \
       -s Hal   \
       -s PubMed   \
       -s Pmc   \
       -s Ncbi   \
       -z France   \
       -z Allemagne   \
       -q "vulpes"   \
       -t "Serveur d'exploration sur le renard"
Définition $EXPLOR_AREA
EXPLOR_AREA=$WICRI_ROOT/Wicri/Bois/corpus/Renard.storage/RenardV1
export EXPLOR_AREA
export LC_ALL='C'
Création des répertoires
mkdir $WICRI_ROOT/Bois/explor/Renard.storage
mkdir $EXPLOR_AREA
mkdir $EXPLOR_AREA/Import

Construction du Repository ISTEX

En cas de reprise au niveau du téléchargement

rm -rf $EXPLOR_AREA/Import/IstexRepository.h*
IstexGetCorpus -q "vulpes AND (france OR germany OR belg* OR luxembourg)" -s 2500 -A  -t $ISTEX_TOKEN   \
     | IstexToSxml     \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexRepository

Vérification

HfdCat  $EXPLOR_AREA/Import/IstexRepository.hfd | wc

Construction des métadonnées ISTEX

ISTEX, création du HFD Corpus Biblio
En cas de reprise:
rm -rf $EXPLOR_AREA/Import/IstexMetadata.h*
Construction corpus biblio
HfdCat $EXPLOR_AREA/Import/IstexRepository.hfd   \
  | IstexCleanFullText                           \
  | SgmlFast -c1                                 \
  | IstexToTei                                   \
  | TeiPutRefToIdno -t wicri:Area/Istex/Corpus  -c ISTEX -s Corpus -S Istex \
  | HfdBuild -h $EXPLOR_AREA/Import/IstexMetadata

Téléchargement des autres corpus

PubMed

Site : http://www.ncbi.nlm.nih.gov/pubmed

Requête :

vulpes AND (france OR germany OR belg* OR luxembourg) 

Ranger le résultat dans $EXPLOR_AREA/Import/pubmed_result.xml

PubMed Central

Site : http://www.ncbi.nlm.nih.gov/pmc

Requête :

vulpes[abstract] AND (france OR germany OR belg* OR luxembourg) 

Ranger le résultat dans $EXPLOR_AREA/Import/pmc_result.xml

PascalFrancis

Site :http://stan2.demo.inist.fr/fr/

Requête :

vulpes et (( pa=fr* ) ou (pa=bel) ou (pa=deu) ou (pa=lux))

Télécharger avec les onglets : Serveur / SGML / SGML / LF

  • résultat dans $EXPLOR_AREA/Import
 mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistServer.txt 

Télécharger avec les onglets : SGML / SGML / SGML / LF

  • résultat dans $EXPLOR_AREA/Import
 mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistStandard.txt 
Hal

Sur : https://hal.archives-ouvertes.fr/

vulpes

Génération de la plateforme

Importation des paramètres de génération
WicriGetPage -l wicri-bois.fr -p "Wicri:RenardV1/Paramètres, data"\
      > $EXPLOR_AREA/Import/WicriAreaParam.data.wiki

Si reprise

sh $EXPLOR_AREA/bin/AreaReset.sh
ExplorAreaDataCreate -d $EXPLOR_AREA
make -f $EXPLOR_AREA/bin/area.mk
Importation des paramètres de navigation
WicriGetPage -l wicri-bois.fr -p "Wicri:RenardV1/Paramètres, fr"\
      > $EXPLOR_AREA/Import/WicriAreaSiteParam.fr.wiki
Génération de l'interface 
sh $EXPLOR_AREA/bin/AreaCreateSite.fr.sh

Génération des FTP

cd $EXPLOR_AREA
rm Site.tar.gz 
tar -cvf Site.tar Site 
gzip Site.tar 
rm Data.tar.gz 
tar -cvf Data.tar Data 
gzip Data.tar 

rm ImportMetadata.tar.gz
tar -cvf ImportMetadata.tar Import/istexMetadata.hcs Import/istexMetadata.hfd
gzip ImportMetadata.tar

Transfert vers la machine Wici-Demo

Transfert par scp
scp Site.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Bois/explor/Renard.storage/RenardV1
scp Data.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Bois/explor/Renard.storage/RenardV1
scp ImportMetadata.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Bois/explor/Renard.storage/RenardV1

Sur la machine cible

Aller sur le répertoire corpus correspondant au wiki cible

. /applis/lorexplor/Dilib/init.sh  
newgrp ticri
EXPLOR_AREA=$WICRI_ROOT/Bois/explor/Renard.storage/RenardV1
export EXPLOR_AREA
export LC_ALL='C'
cd $EXPLOR_AREA

Si nouveau code générique :

mkdir $WICRI_ROOT/Wicri/Bois/corpus/Renard.storage

Création du répertoire plateforme

mkdir $EXPLOR_AREA
Transfert par FileZilla

Transférer les fichiers Site.tar.gz, Data.tar.gz de RenardV1 (émetteur) vers RenardV1 (cible).

Installation
cd $EXPLOR_AREA
gunzip Site.tar.gz 
tar -xvf Site.tar 
gzip Site.tar 

gunzip Data.tar.gz 
tar -xvf Data.tar 
gzip Data.tar
gunzip ImportMetadata.tar.gz 
tar -xvf ImportMetadata.tar 
gzip ImportMetadata.tar 

cd Data/Istex/Corpus 
rm biblio.hcs 
rm biblio.hfd 
ln -s ../../../Import/istexMetadata.hcs biblio.hcs 
ln -s ../../../Import/istexMetadata.hfd biblio.hfd

Liste des Modèles

Modèle:RenardV1, include
Modèle:RenardV1, Explor size key
Modèle:RenardV1, Explor size
Modèle:Explor plateforme RenardV1/Carte Monde Europe réunie
Modèle:Explor plateforme RenardV1/Carte Monde
Modèle:Explor plateforme RenardV1/Carte Europe
Modèle:Explor plateforme RenardV1/Carte France Regions 2016
Modèle:Explor plateforme RenardV1/Carte France