src/archive/models.py

   1 import json
   2 import os.path
   3
   4 from django.db import models
   5 from time import sleep
   6 from django.utils.functional import cached_property
   7 from django.utils.timezone import now
   8 from django.utils.translation import gettext_lazy as _
   9 from django_pglocks import advisory_lock
  10 import requests
  11 from archive.constants import status
  12 from archive.settings import FILES_SAVE_PATH, ADVERT, ORGANIZATION, PROJECT
  13 from archive.utils import OverwriteStorage, sha1_file
  14
  15
  16 class License(models.Model):
  17     uri = models.CharField(max_length=255, unique=True)
  18     name = models.CharField(max_length=255)
  19
  20     def __str__(self):
  21         return self.name
  22
  23
  24 class Project(models.Model):
  25     """ an audiobook project, needed for specyfing sponsors """
  26
  27     name = models.CharField(max_length=128, unique=True, db_index=True, verbose_name="Nazwa")
  28     sponsors = models.TextField(blank=True, null=True, verbose_name="Sponsorzy")
  29     description = models.TextField(blank=True, verbose_name="Opis")
  30
  31     class Meta:
  32         verbose_name = _("project")
  33         verbose_name_plural = _("projects")
  34         ordering = ("name",)
  35
  36     def __str__(self):
  37         return self.name
  38
  39     def get_description(self):
  40         if self.description:
  41             return self.description
  42         return "Audiobook nagrany w ramach projektu %s%s." % (
  43             self.name,
  44             " finansowanego przez %s" % self.sponsors if self.sponsors else "",
  45         )
  46
  47
  48 class Piece(models.Model):
  49     name = models.CharField(max_length=255)
  50     source_file = models.FileField(upload_to='piece')
  51     is_outro = models.BooleanField(default=False)
  52     min_audiobook_duration = models.IntegerField(default=0)
  53
  54     def __str__(self):
  55         return self.name
  56
  57
  58 def source_upload_to(intance, filename):
  59     return os.path.join(FILES_SAVE_PATH, filename) # FIXME: what about really long file names?
  60
  61
  62 class Audiobook(models.Model):
  63     source_file = models.FileField(upload_to=source_upload_to, max_length=255,
  64             verbose_name=_('source file'), editable=False)
  65     source_sha1 = models.CharField(max_length=40, editable=False)
  66     duration = models.FloatField(null=True, editable=False)
  67
  68     title = models.CharField(max_length=255, verbose_name=_('title'))
  69     part_name = models.CharField(max_length=255, verbose_name=_('part name'), help_text=_('eg. chapter in a novel'),
  70                                  default='', blank=True)
  71     index = models.IntegerField(verbose_name=_('index'), default=0, help_text=_('Ordering of parts of a book.'))
  72     youtube_volume = models.CharField(
  73         _("Volume name for YouTube"),
  74         max_length=100,
  75         blank=True,
  76         help_text=_(
  77             "If set, audiobooks with the save value will be published as single YouTube video."
  78         ),
  79     )
  80     artist = models.CharField(max_length=255, verbose_name=_('artist'))
  81     conductor = models.CharField(max_length=255, verbose_name=_('conductor'))
  82     encoded_by = models.CharField(max_length=255, verbose_name=_('encoded by'))
  83     date = models.CharField(max_length=255, verbose_name=_('date'))
  84     project = models.ForeignKey(Project, models.PROTECT, verbose_name=_('project'))
  85     slug = models.SlugField(max_length=120, help_text=_('WL catalogue slug of the book.'))
  86     translator = models.CharField(max_length=255, null=True, blank=True, verbose_name=_('translator'))
  87     modified = models.DateTimeField(null=True, editable=False)
  88     license = models.ForeignKey(License, models.PROTECT, null=True, blank=True, verbose_name=_('license'))
  89
  90     # publishing process
  91     mp3_status = models.SmallIntegerField(null=True, editable=False, choices=status.choices)
  92     mp3_task = models.CharField(max_length=64, null=True, editable=False)
  93     mp3_tags = models.TextField(null=True, editable=False)
  94     mp3_file = models.FileField(null=True, upload_to='archive/final', storage=OverwriteStorage(), editable=False)
  95     mp3_published_tags = models.TextField(null=True, editable=False)
  96     mp3_published = models.DateTimeField(null=True, editable=False)
  97
  98     ogg_status = models.SmallIntegerField(null=True, editable=False, choices=status.choices)
  99     ogg_task = models.CharField(max_length=64, null=True, editable=False)
 100     ogg_tags = models.TextField(null=True, editable=False)
 101     ogg_file = models.FileField(null=True, upload_to='archive/final', storage=OverwriteStorage(), editable=False)
 102     ogg_published_tags = models.TextField(null=True, editable=False)
 103     ogg_published = models.DateTimeField(null=True, editable=False)
 104
 105     youtube_status = models.SmallIntegerField(null=True, editable=False, choices=status.choices)
 106     youtube_task = models.CharField(max_length=64, null=True, editable=False)
 107     youtube_tags = models.TextField(null=True, editable=False)
 108     youtube_published_tags = models.TextField(null=True, editable=False)
 109     youtube_published = models.DateTimeField(null=True, editable=False)
 110     youtube_id = models.CharField(max_length=255, blank=True, default='')
 111     youtube_queued = models.DateTimeField(null=True, blank=True)
 112
 113     class Meta:
 114         verbose_name = _("audiobook")
 115         verbose_name_plural = _("audiobooks")
 116         ordering = ("title",)
 117
 118     def __str__(self):
 119         return self.title
 120
 121     @property
 122     def url(self):
 123         return f'https://wolnelektury.pl/katalog/lektura/{self.slug}/'
 124
 125     @property
 126     def parts_count(self):
 127         return type(self).objects.filter(slug=self.slug).count()
 128
 129     @property
 130     def youtube_volume_count(self):
 131         total = 0
 132         prev_volume = None
 133         for a in type(self).objects.filter(slug=self.slug).order_by("index"):
 134             if not a.youtube_volume or a.youtube_volume != prev_volume:
 135                 total += 1
 136             prev_volume = a.youtube_volume
 137         return total
 138
 139     @property
 140     def youtube_volume_index(self):
 141         index = 0
 142         prev_volume = None
 143         for a in type(self).objects.filter(slug=self.slug, index__lte=self.index).order_by("index"):
 144             if not a.youtube_volume or a.youtube_volume != prev_volume:
 145                 index += 1
 146             prev_volume = a.youtube_volume
 147         return index
 148
 149     @property
 150     def is_youtube_publishable(self):
 151         return (
 152             not self.youtube_volume
 153             or not type(self)
 154             .objects.filter(youtube_volume=self.youtube_volume, index__lt=self.index)
 155             .exists()
 156         )
 157
 158     def youtube_publish(self):
 159         if not self.is_youtube_publishable:
 160             return False
 161         self.youtube_status = status.QUEUED
 162         self.youtube_queued = now()
 163         self.save(update_fields=['youtube_status', 'youtube_queued'])
 164
 165     def get_mp3_tags(self): return json.loads(self.mp3_tags) if self.mp3_tags else None
 166     def get_ogg_tags(self): return json.loads(self.ogg_tags) if self.ogg_tags else None
 167     def get_mp3_published_tags(self): return json.loads(self.mp3_published_tags) if self.mp3_published_tags else None
 168     def get_ogg_published_tags_tags(self): return json.loads(self.ogg_published_tags) if self.ogg_published_tags else None
 169     def set_mp3_tags(self, tags): self.mp3_tags = json.dumps(tags)
 170     def set_ogg_tags(self, tags): self.ogg_tags = json.dumps(tags)
 171
 172     def published(self):
 173         return self.mp3_published and self.ogg_published
 174
 175     def get_source_sha1(self):
 176         assert self.pk or self.source_sha1
 177         if not self.source_sha1:
 178             with advisory_lock(f'get_source_sha1_{self.pk}'):
 179                 with open(self.source_file.path, 'rb') as f:
 180                     self.source_sha1 = sha1_file(f)
 181                 self.save(update_fields=['source_sha1'])
 182         return self.source_sha1
 183
 184     def new_publish_tags(self):
 185         title = self.title
 186         if self.translator:
 187             title += ' (tłum. %s)' % self.translator
 188
 189         copyright = "%s %s." % (
 190                 self.date, ORGANIZATION)
 191         if self.license:
 192             copyright += " Licensed to the public under %s verify at %s" % (
 193                 self.license.uri, self.url)
 194
 195         comment = "\n".join((
 196             self.project.get_description(),
 197             ADVERT
 198         ))
 199
 200         tags = {
 201             'album': PROJECT,
 202             'albumartist': ORGANIZATION,
 203             'artist': self.artist,
 204             'comment': comment,
 205             'conductor': self.conductor,
 206             'contact': self.url,
 207             'copyright': copyright,
 208             'date': self.date,
 209             'genre': 'Speech',
 210             'language': 'pol',
 211             'organization': ORGANIZATION,
 212             'title': title,
 213             'project': self.project.name,
 214         }
 215         if self.license:
 216             tags['license'] = self.license.uri
 217         if self.project.sponsors:
 218             tags['funded_by'] = self.project.sponsors
 219
 220         if self.source_sha1:
 221             tags['flac_sha1'] = self.source_sha1
 222         return tags
 223
 224     @cached_property
 225     def book(self):
 226         apidata = requests.get(f'https://wolnelektury.pl/api/books/{self.slug}/').json()
 227         return apidata