== Démarrer un nouveau projet === Travailler en isolation Nous allons aborder la gestion et l'isolation des dépendances. Cette section est aussi utile pour une personne travaillant seule, que pour transmettre les connaissances à un nouveau membre de l'équipe ou pour déployer l'application elle-même. Il en était déjà question au deuxième point des 12 facteurs: même dans le cas de petits projets, il est déconseillé de s'en passer. Cela évite les déploiements effectués à l'arrache à grand renfort de `sudo` et d'installation globale de dépendances, pouvant potentiellement occasioner des conflits entre les applications déployées: . Il est tout à fait envisagable que deux applications différentes soient déployées sur un même hôte, et nécessitent chacune deux versions différentes d'une même dépendance. . Pour la reproductibilité d'un environnement spécifique, cela évite notamment les réponses type "Ca juste marche chez moi", puisque la construction d'un nouvel environnement fait partie intégrante du processus de construction et de la documentation du projet; grâce à elle, nous avons la possibilité de construire un environnement sain et d'appliquer des dépendances identiques, quelle que soit la machine hôte. image::images/it-works-on-my-machine.jpg[] Dans la suite de ce chapitre, nous allons considérer deux projets différents: . Gwift, une application permettant de gérer des listes de souhaits . Khana, une application de suivi d'apprentissage pour des élèves ou étudiants. ==== Roulements de versions Django fonctionne sur un https://docs.djangoproject.com/en/dev/internals/release-process/[roulement de trois versions mineures pour une version majeure], clôturé par une version LTS (_Long Term Support_). image::images/django-support-lts.png[] La version utilisée sera une bonne indication à prendre en considération pour nos dépendances, puisqu'en visant une version particulière, nous ne devrons pratiquement pas nous soucier (bon, un peu quand même, mais nous le verrons plus tard...) des dépendances à installer, pour peu que l'on reste sous un certain seuil. Dans les étapes ci-dessous, nous épinglerons une version LTS afin de nous assurer une certaine sérénité d'esprit (= dont nous ne occuperons pas pendant les 3 prochaines années). ==== Environnements virtuels .https://xkcd.com/1987 image::images/xkcd-1987.png[] Un des reproches que l'on peut faire au langage concerne sa versatilité: il est possible de réaliser beaucoup de choses, mais celles-ci ne sont pas toujours simples ou directes. Pour quelqu'un qui débarquererait, la quantité d'options différentes peut paraître rebutante. Nous pensons notamment aux environnements virtuels: ils sont géniaux à utiliser, mais on est passé par virtualenv (l'ancêtre), virtualenvwrapper (sa version améliorée et plus ergonomique), `venv` (la version intégrée depuis la version 3.3 de l'interpréteur, et https://docs.python.org/3/library/venv.html[la manière recommandée] de créer un environnement depuis la 3.5). Pour créer un nouvel environnement, vous aurez donc besoin: . D'une installation de Python - https://www.python.org/ . D'un terminal - voir le point <<../environment/_index.adoc#un-terminal,Un terminal>> NOTE: Il existe plusieurs autres modules permettant d'arriver au même résultat, avec quelques avantages et inconvénients pour chacun d'entre eux. Le plus prometteur d'entre eux est https://python-poetry.org/[Poetry], qui dispose d'une interface en ligne de commande plus propre et plus moderne que ce que PIP propose. Poetry se propose de gérer le projet au travers d'un fichier pyproject.toml. TOML (du nom de son géniteur, Tom Preston-Werner, légèrement CEO de GitHub à ses heures), se place comme alternative aux formats comme JSON, YAML ou INI. [source,bash] ---- La commande poetry new créera une structure par défaut relativement compréhensible: $ poetry new django-gecko $ tree django-gecko/ django-gecko/ ├── django_gecko │ └── __init__.py ├── pyproject.toml ├── README.rst └── tests ├── __init__.py └── test_django_gecko.py 2 directories, 5 files ---- Ceci signifie que nous avons directement (et de manière standard): * Un répertoire django-gecko, qui porte le nom de l'application que vous venez de créer * Un répertoires tests, libellé selon les standards de pytest * Un fichier README.rst (qui ne contient encore rien) * Un fichier pyproject.toml, qui contient ceci: [source,toml] ---- [tool.poetry] name = "django-gecko" version = "0.1.0" description = "" authors = ["... <...@grimbox.be>"] [tool.poetry.dependencies] python = "^3.9" [tool.poetry.dev-dependencies] pytest = "^5.2" [build-system] requires = ["poetry-core>=1.0.0"] build-backend = "poetry.core.masonry.api" ---- La commande `poetry init` permet de générer interactivement les fichiers nécessaires à son intégration dans un projet existant. NOTE: J'ai pour habitude de conserver mes projets dans un répertoire `~/Sources/` et mes environnements virtuels dans un répertoire `~/.venvs/`. Cette séparation évite que l'environnement virtuel ne se trouve dans le même répertoire que les sources, ou ne soit accidentellement envoyé vers le système de gestion de versions. Elle évite également de rendre ce répertoire "visible" - il ne s'agit au fond que d'un paramètre de configuration lié uniquement à votre environnement de développement; les environnements virtuels étant disposables, il n'est pas conseillé de trop les lier au projet qui l'utilise comme base. Dans la suite de ce chapitre, je considérerai ces mêmes répertoires, mais n'hésitez pas à les modifier. DANGER: Indépendamment de l'endroit où vous stockerez le répertoire contenant cet environnement, il est primordial de **ne pas le conserver dans votre dépôt de stockager**. Cela irait à l'encontre des douze facteurs, cela polluera inutilement vos sources et créera des conflits avec l'environnement des personnes qui souhaiteraient intervenir sur le projet. Pur créer notre répertoire de travail et notre environnement virtuel, exécutez les commandes suivantes: [source,bash] ---- mkdir ~/.venvs/ python -m venv ~/.venvs/gwift-venv ---- Ceci aura pour effet de créer un nouveau répertoire (`~/.venvs/gwift-env/`), dans lequel vous trouverez une installation complète de l'interpréteur Python. Votre environnement virtuel est prêt, il n'y a plus qu'à indiquer que nous souhaitons l'utiliser, grâce à l'une des commandes suivantes: [source,bash] ---- # GNU/Linux, macOS source ~/.venvs/gwift-venv/bin/activate # MS Windows, avec Cmder ~/.venvs/gwift-venv/Scripts/activate.bat # Pour les deux (gwift-env) fred@aerys:~/Sources/.venvs/gwift-env$ <1> ---- <1> Le terminal signale que nous sommes bien dans l'environnement `gwift-env`. A présent que l'environnement est activé, tous les binaires de cet environnement prendront le pas sur les binaires du système. De la même manière, une variable `PATH` propre est définie et utilisée, afin que les librairies Python y soient stockées. C'est donc dans cet environnement virtuel que nous retrouverons le code source de Django, ainsi que des librairies externes pour Python une fois que nous les aurons installées. NOTE: Pour les curieux, un environnement virtuel n'est jamais qu'un répertoire dans lequel se trouve une installation fraîche de l'interpréteur, vers laquelle pointe les liens symboliques des binaires. Si vous recherchez l'emplacement de l'interpréteur avec la commande `which python`, vous recevrez comme réponse `/home/fred/.venvs/gwift-env/bin/python`. Pour sortir de l'environnement virtuel, exécutez la commande `deactivate`. Si vous pensez ne plus en avoir besoin, supprimer le dossier. Si nécessaire, il suffira d'en créer un nouveau. Pour gérer des versions différentes d'une même librairie, il nous suffit de jongler avec autant d'environnements que nécessaires. Une application nécessite une version de Django inférieure à la 2.0 ? On crée un environnement, on l'active et on installe ce qu'il faut. Cette technique fonctionnera autant pour un poste de développement que sur les serveurs destinés à recevoir notre application. NOTE: Par la suite, nous considérerons que l'environnement virtuel est toujours activé, même si `gwift-env` n'est pas indiqué. a manière recommandée pour la gestion des dépendances consiste à les épingler dans un fichier requirements.txt, placé à la racine du projet. Ce fichier reprend, ligne par ligne, chaque dépendance et la version nécessaire. Cet épinglage est cependant relativement basique, dans la mesure où les opérateurs disponibles sont ==, <= et >=. Poetry propose un épinglage basé sur SemVer. Les contraintes qui peuvent être appliquées aux dépendances sont plus touffues que ce que proposent pip -r, avec la présence du curseur ^, qui ne modifiera pas le nombre différent de zéro le plus à gauche: ^1.2.3 (où le nombre en question est 1) pourra proposer une mise à jour jusqu'à la version juste avant la version 2.0.0 ^0.2.3 pourra être mise à jour jusqu'à la version juste avant 0.3.0. ... L'avantage est donc que l'on spécifie une version majeure - mineure - patchée, et que l'on pourra spécifier accepter toute mise à jour jusqu'à la prochaine version majeure - mineure patchée (non incluse 😉). Une bonne pratique consiste également, tout comme pour npm, à intégrer le fichier de lock (poetry.lock) dans le dépôt de sources: de cette manière, seules les dépendances testées (et intégrées) seront considérées sur tous les environnements de déploiement. Il est alors nécessaire de passer par une action manuelle (poetry update) pour mettre à jour le fichier de verrou, et assurer une mise à jour en sécurité (seules les dépendances testées sont prises en compte) et de qualité (tous les environnements utilisent la même version d'une dépendance). L'ajout d'une nouvelle dépendance à un projet se réalise grâce à la commande `poetry add `: [source,shell] ---- $ poetry add django Using version ^3.2.3 for Django Updating dependencies Resolving dependencies... (5.1s) Writing lock file Package operations: 8 installs, 1 update, 0 removals • Installing pyparsing (2.4.7) • Installing attrs (21.2.0) • Installing more-itertools (8.8.0) • Installing packaging (20.9) • Installing pluggy (0.13.1) • Installing py (1.10.0) • Installing wcwidth (0.2.5) • Updating django (3.2 -> 3.2.3) • Installing pytest (5.4.3) ---- Elle est ensuite ajoutée à notre fichier `pyproject.toml`: [source,toml] ---- [...] [tool.poetry.dependencies] python = "^3.9" Django = "^3.2.3" [...] ---- Et contrairement à `pip`, pas besoin de savoir s'il faut pointer vers un fichier (`-r`) ou un dépôt VCS (`-e`), puisque Poetry va tout essayer, [dans un certain ordre](https://python-poetry.org/docs/cli/#add). L'avantage également (et cela m'arrive encore souvent, ce qui fait hurler le runner de Gitlab), c'est qu'il n'est plus nécessaire de penser à épingler la dépendance que l'on vient d'installer parmi les fichiers de requirements, puisqu'elles s'y ajoutent automatiquement grâce à la commande `add`. ==== Python packaging made easy Cette partie dépasse mes compétences et connaissances, dans la mesure où je n'ai jamais rien packagé ni publié sur [pypi.org](pypi.org). Ce n'est pas l'envie qui manque, mais les idées et la nécessité 😉. Ceci dit, Poetry propose un ensemble de règles et une préconfiguration qui (doivent) énormément facilite(r) la mise à disposition de librairies sur Pypi - et rien que ça, devrait ouvrir une partie de l'écosystème. Les chapitres 7 et 8 de [Expert Python Programming - Third Edtion](#), écrit par Michal Jaworski et Tarek Ziadé en parlent très bien: > Python packaging can be a bit overwhelming at first. > The main reason for that is the confusion about proper tools for creating Python packages. > Anyway, once you create your first package, you will se that this is as hard as it looks. > Also, knowing propre, state-of-the-art packaging helps a lot. En gros, c'est ardu-au-début-mais-plus-trop-après. Et c'est heureusement suivi et documenté par la PyPA (*https://github.com/pypa[Python Packaging Authority]*). Les étapes sont les suivantes: 1. Utiliser setuptools pour définir les projets et créer les distributions sources, 2. Utiliser **wheels** pour créer les paquets, 3. Passer par **twine** pour envoyer ces paquets vers PyPI 4. Définir un ensemble d'actions (voire, de plugins nécessaires - lien avec le VCS, etc.) dans le fichier `setup.py`, et définir les propriétés du projet ou de la librairie dans le fichier `setup.cfg`. Avec Poetry, deux commandes suffisent (théoriquement - puisque je n'ai pas essayé 🤪): `poetry build` et `poetry publish`: [source,shell] ---- $ poetry build Building geco (0.1.0) - Building sdist - Built geco-0.1.0.tar.gz - Building wheel - Built geco-0.1.0-py3-none-any.whl $ tree dist/ dist/ ├── geco-0.1.0-py3-none-any.whl └── geco-0.1.0.tar.gz 0 directories, 2 files ---- Ce qui est quand même 'achement plus simple que d'appréhender tout un écosystème. ==== Gestion des dépendances, installation de Django et création d'un nouveau projet Comme nous en avons déjà discuté, PIP est la solution que nous avons choisie pour la gestion de nos dépendances. Pour installer une nouvelle librairie, vous pouvez simplement passer par la commande `pip install `. Dans le cas de Django, et après avoir activé l'environnement, nous pouvons à présent y installer Django. Comme expliqué ci-dessus, la librairie restera indépendante du reste du système, et ne polluera aucun autre projet. nous exécuterons donc la commande suivante: [source,bash] ---- $ source ~/.venvs/gwift-env/bin/activate # ou ~/.venvs/gwift-env/Scrips/activate.bat pour Windows. $ pip install django Collecting django Downloading Django-3.1.4 100% |################################| Installing collected packages: django Successfully installed django-3.1.4 ---- IMPORTANT: Ici, la commande `pip install django` récupère la *dernière version connue disponible dans les dépôts https://pypi.org/* (sauf si vous en avez définis d'autres. Mais c'est hors sujet). Nous en avons déjà discuté: il est important de bien spécifier la version que vous souhaitez utiliser, sans quoi vous risquez de rencontrer des effets de bord. L'installation de Django a ajouté un nouvel exécutable: `django-admin`, que l'on peut utiliser pour créer notre nouvel espace de travail. Par la suite, nous utiliserons `manage.py`, qui constitue un *wrapper* autour de `django-admin`. Pour démarrer notre projet, nous lançons `django-admin startproject gwift`: [source,bash] ---- $ django-admin startproject gwift ---- Cette action a pour effet de créer un nouveau dossier `gwift`, dans lequel nous trouvons la structure suivante: [source,bash] ---- $ tree gwift gwift ├── gwift | |── asgi.py │   ├── __init__.py │   ├── settings.py │   ├── urls.py │   └── wsgi.py └── manage.py ---- C'est dans ce répertoire que vont vivre tous les fichiers liés au projet. Le but est de faire en sorte que toutes les opérations (maintenance, déploiement, écriture, tests, ...) puissent se faire à partir d'un seul point d'entrée. L'utilité de ces fichiers est définie ci-dessous: * `settings.py` contient tous les paramètres globaux à notre projet. * `urls.py` contient les variables de routes, les adresses utilisées et les fonctions vers lesquelles elles pointent. * `manage.py`, pour toutes les commandes de gestion. * `asgi.py` contient la définition de l'interface https://en.wikipedia.org/wiki/Asynchronous_Server_Gateway_Interface[ASGI], le protocole pour la passerelle asynchrone entre votre application et le serveur Web. * `wsgi.py` contient la définition de l'interface https://en.wikipedia.org/wiki/Web_Server_Gateway_Interface[WSGI], qui permettra à votre serveur Web (Nginx, Apache, ...) de faire un pont vers votre projet. NOTE: Indiquer qu'il est possible d'avoir plusieurs structures de dossiers et qu'il n'y a pas de "magie" derrière toutes ces commandes. Tant que nous y sommes, nous pouvons ajouter un répertoire dans lequel nous stockerons les dépendances et un fichier README: [source,bash] ---- (gwift) $ mkdir requirements (gwift) $ touch README.md (gwift) $ tree gwift gwift ├── gwift │   ├── asgi.py │   ├── __init__.py │   ├── settings.py │   ├── urls.py │   └── wsgi.py ├── requirements <1> ├── README.md <2> └── manage.py ---- <1> Ici <2> Et là Comme nous venons d'ajouter une dépendance à notre projet, profitons-en pour créer un fichier reprenant tous les dépendances de notre projet. Celles-ci sont normalement placées dans un fichier `requirements.txt`. Dans un premier temps, ce fichier peut être placé directement à la racine du projet, mais on préférera rapidement le déplacer dans un sous-répertoire spécifique (`requirements`), afin de grouper les dépendances en fonction de leur environnement de destination: * `base.txt` * `dev.txt` * `production.txt` Au début de chaque fichier, il suffit d'ajouter la ligne `-r base.txt`, puis de lancer l'installation grâce à un `pip install -r `. De cette manière, il est tout à fait acceptable de n'installer `flake8` et `django-debug-toolbar` qu'en développement par exemple. Dans l'immédiat, nous allons ajouter `django` dans une version strictement inférieure à la version 3.2 dans le fichier `requirements/base.txt`. [source,bash] ---- $ echo 'django==3.2' > requirements/base.txt $ echo '-r base.txt' > requirements/prod.txt $ echo '-r base.txt' > requirements/dev.txt ---- IMPORTANT: Prenez directement l'habitude de spécifier la version ou les versions compatibles: les librairies que vous utilisez comme dépendances évoluent, de la même manière que vos projets. Pour être sûr et certain le code que vous avez écrit continue à fonctionner, spécifiez la version de chaque librairie de dépendances. Entre deux versions d'une même librairie, des fonctions sont cassées, certaines signatures sont modifiées, des comportements sont altérés, etc. Il suffit de parcourir les pages de _Changements incompatibles avec les anciennes versions dans Django_ https://docs.djangoproject.com/fr/3.1/releases/3.0/[(par exemple ici pour le passage de la 3.0 à la 3.1)] pour réaliser que certaines opérations ne sont pas anodines, et que sans filet de sécurité, c'est le mur assuré. Avec les mécanismes d'intégration continue et de tests unitaires, nous verrons plus loin comment se prémunir d'un changement inattendu. === Django Comme nous l'avons vu ci-dessus, `django-admin` permet de créer un nouveau projet. Nous faisons ici une distinction entre un **projet** et une **application**: * *Un projet* représente l'ensemble des applications, paramètres, pages HTML, middlewares, dépendances, etc., qui font que votre code fait ce qu'il est sensé faire. * *Une application* est un contexte d'exécution, idéalement autonome, d'une partie du projet. Pour `gwift`, nous aurons: .Django Projet vs Applications image::images/django/django-project-vs-apps-gwift.png[] . une première application pour la gestion des listes de souhaits et des éléments, . une deuxième application pour la gestion des utilisateurs, . voire une troisième application qui gérera les partages entre utilisateurs et listes. Nous voyons également que la gestion des listes de souhaits et éléments aura besoin de la gestion des utilisateurs - elle n'est pas autonome -, tandis que la gestion des utilisateurs n'a aucune autre dépendance qu'elle-même. Pour `khana`, nous pourrions avoir quelque chose comme ceci: .Django Project vs Applications image::images/django/django-project-vs-apps-khana.png[] En rouge, vous pouvez voir quelque chose que nous avons déjà vu: la gestion des utilisateurs et la possibilité qu'ils auront de communiquer entre eux. Ceci pourrait être commun aux deux applications. Nous pouvons clairement visualiser le principe de **contexte** pour une application: celle-ci viendra avec son modèle, ses tests, ses vues et son paramétrage et pourrait ainsi être réutilisée dans un autre projet. C'est en ça que consistent les https://www.djangopackages.com/[paquets Django] déjà disponibles: ce sont "_simplement_" de petites applications empaquetées et pouvant être réutilisées dans différents contextes (eg. https://github.com/tomchristie/django-rest-framework[Django-Rest-Framework], https://github.com/django-debug-toolbar/django-debug-toolbar[Django-Debug-Toolbar], ...). ==== manage.py Le fichier `manage.py` que vous trouvez à la racine de votre projet est un *wrapper* sur les commandes `django-admin`. A partir de maintenant, nous n'utiliserons plus que celui-là pour tout ce qui touchera à la gestion de notre projet: * `manage.py check` pour vérifier (en surface...) que votre projet ne rencontre aucune erreur évidente * `manage.py check --deploy`, pour vérifier (en surface aussi) que l'application est prête pour un déploiement * `manage.py runserver` pour lancer un serveur de développement * `manage.py test` pour découvrir les tests unitaires disponibles et les lancer. La liste complète peut être affichée avec `manage.py help`. Vous remarquerez que ces commandes sont groupées selon différentes catégories: * **auth**: création d'un nouveau super-utilisateur, changer le mot de passe pour un utilisateur existant. * **django**: vérifier la *compliance* du projet, lancer un *shell*, *dumper* les données de la base, effectuer une migration du schéma, ... * **sessions**: suppressions des sessions en cours * **staticfiles**: gestion des fichiers statiques et lancement du serveur de développement. Nous verrons plus tard comment ajouter de nouvelles commandes. Si nous démarrons la commande `python manage.py runserver`, nous verrons la sortie console suivante: [source,bash] ---- $ python manage.py runserver Watching for file changes with StatReloader Performing system checks... System check identified no issues (0 silenced). [...] December 15, 2020 - 20:45:07 Django version 3.1.4, using settings 'gwift.settings' Starting development server at http://127.0.0.1:8000/ Quit the server with CTRL-BREAK. ---- Si nous nous rendons sur la page http://127.0.0.1:8000 (ou http://localhost:8000) comme le propose si gentiment notre (nouveau) meilleur ami, nous verrons ceci: .python manage.py runserver (Non, ce n'est pas Challenger) image::images/django/manage-runserver.png[] IMPORTANT: Nous avons mis un morceau de la sortie console entre crochet `[...]` ci-dessus, car elle concerne les migrations. Si vous avez suivi les étapes jusqu'ici, vous avez également dû voir un message type `You have 18 unapplied migration(s). [...] Run 'python manage.py migrate' to apply them.` Cela concerne les migrations, et c'est un point que nous verrons un peu plus tard. ==== Création d'une nouvelle application Maintenant que nous avons a vu à quoi servait `manage.py`, nous pouvons créer notre nouvelle application grâce à la commande `manage.py startapp