1 from collections import Counter
 
   2 from datetime import date, timedelta
 
   5 from urllib.request import urlopen
 
   6 from django.apps import apps
 
   7 from django.conf import settings
 
   8 from django.db import models
 
   9 from django.template.loader import render_to_string
 
  10 from django.urls import reverse
 
  11 from django.utils.translation import gettext_lazy as _
 
  12 from admin_ordering.models import OrderableModel
 
  13 from wikidata.client import Client
 
  14 from .constants import WIKIDATA
 
  15 from .wikidata import WikidataModel
 
  16 from .wikimedia import WikiMedia
 
  19 class Author(WikidataModel):
 
  20     slug = models.SlugField(max_length=255, null=True, blank=True, unique=True)
 
  21     first_name = models.CharField(_("first name"), max_length=255, blank=True)
 
  22     last_name = models.CharField(_("last name"), max_length=255, blank=True)
 
  23     genitive = models.CharField(
 
  24         'dopełniacz', max_length=255, blank=True,
 
  25         help_text='utwory … (czyje?)'
 
  28     name_de = models.CharField(_("name (de)"), max_length=255, blank=True)
 
  29     name_lt = models.CharField(_("name (lt)"), max_length=255, blank=True)
 
  31     gender = models.CharField(_("gender"), max_length=255, blank=True)
 
  32     nationality = models.CharField(_("nationality"), max_length=255, blank=True)
 
  34     year_of_birth = models.SmallIntegerField(_("year of birth"), null=True, blank=True)
 
  35     year_of_birth_inexact = models.BooleanField(_("inexact"), default=False)
 
  36     year_of_birth_range = models.SmallIntegerField(_("year of birth, range end"), null=True, blank=True)
 
  37     date_of_birth = models.DateField(_("date_of_birth"), null=True, blank=True)
 
  38     century_of_birth = models.SmallIntegerField(
 
  39         _("century of birth"), null=True, blank=True,
 
  40         help_text=_('Set if year unknown. Negative for BC.')
 
  42     place_of_birth = models.ForeignKey(
 
  43         'Place', models.PROTECT, null=True, blank=True,
 
  44         verbose_name=_('place of birth'),
 
  45         related_name='authors_born'
 
  47     year_of_death = models.SmallIntegerField(_("year of death"), null=True, blank=True)
 
  48     year_of_death_inexact = models.BooleanField(_("inexact"), default=False)
 
  49     year_of_death_range = models.SmallIntegerField(_("year of death, range end"), null=True, blank=True)
 
  50     date_of_death = models.DateField(_("date_of_death"), null=True, blank=True)
 
  51     century_of_death = models.SmallIntegerField(
 
  52         _("century of death"), null=True, blank=True,
 
  53         help_text=_('Set if year unknown. Negative for BC.')
 
  55     place_of_death = models.ForeignKey(
 
  56         'Place', models.PROTECT, null=True, blank=True,
 
  57         verbose_name=_('place of death'),
 
  58         related_name='authors_died'
 
  60     status = models.PositiveSmallIntegerField(
 
  71     notes = models.TextField(_("notes"), blank=True, help_text=_('private'))
 
  73     gazeta_link = models.CharField(_("gazeta link"), max_length=255, blank=True)
 
  74     culturepl_link = models.CharField(_("culture.pl link"), max_length=255, blank=True)
 
  75     plwiki = models.CharField(blank=True, max_length=255)
 
  76     photo = models.ImageField(blank=True, null=True, upload_to='catalogue/author/')
 
  77     photo_source = models.CharField(blank=True, max_length=255)
 
  78     photo_attribution = models.CharField(max_length=255, blank=True)
 
  80     description = models.TextField(_("description"), blank=True, help_text=_('for publication'))
 
  82     priority = models.PositiveSmallIntegerField(
 
  84         default=0, choices=[(0, _("Low")), (1, _("Medium")), (2, _("High"))]
 
  86     collections = models.ManyToManyField("Collection", blank=True, verbose_name=_("collections"))
 
  88     woblink = models.IntegerField(null=True, blank=True)
 
  91         verbose_name = _('author')
 
  92         verbose_name_plural = _('authors')
 
  93         ordering = ("last_name", "first_name", "year_of_death")
 
  96         first_name = WIKIDATA.GIVEN_NAME
 
  97         last_name = WIKIDATA.LAST_NAME
 
  98         date_of_birth = WIKIDATA.DATE_OF_BIRTH
 
  99         year_of_birth = WIKIDATA.DATE_OF_BIRTH
 
 100         place_of_birth = WIKIDATA.PLACE_OF_BIRTH
 
 101         date_of_death = WIKIDATA.DATE_OF_DEATH
 
 102         year_of_death = WIKIDATA.DATE_OF_DEATH
 
 103         place_of_death = WIKIDATA.PLACE_OF_DEATH
 
 104         gender = WIKIDATA.GENDER
 
 105         notes = WikiMedia.append("description")
 
 107         photo = WikiMedia.download(WIKIDATA.IMAGE)
 
 108         photo_source = WikiMedia.descriptionurl(WIKIDATA.IMAGE)
 
 109         photo_attribution = WikiMedia.attribution(WIKIDATA.IMAGE)
 
 111         def _supplement(obj):
 
 112             if not obj.first_name and not obj.last_name:
 
 113                 yield 'first_name', 'label'
 
 116         name = f"{self.first_name} {self.last_name}"
 
 117         if self.year_of_death is not None:
 
 118             name += f' (zm. {self.year_of_death})'
 
 121     def get_absolute_url(self):
 
 122         return reverse("catalogue_author", args=[self.slug])
 
 125     def get_by_literal(cls, literal):
 
 126         names = literal.split(',', 1)
 
 127         names = [n.strip() for n in names]
 
 129             return cls.objects.filter(last_name=names[0], first_name=names[1]).first()
 
 131             return cls.objects.filter(last_name_pl=names[0], first_name_pl='').first() or \
 
 132                 cls.objects.filter(first_name_pl=names[0], last_name_pl='').first() or \
 
 133                 cls.objects.filter(first_name_pl=literal, last_name_pl='').first() or \
 
 134                 cls.objects.filter(first_name_pl=literal, last_name_pl=None).first()
 
 138         return f"{self.last_name}, {self.first_name}"
 
 142         if self.year_of_death:
 
 143             return self.year_of_death + 71
 
 144         elif self.year_of_death == 0:
 
 149     def generate_description(self):
 
 150         t = render_to_string(
 
 151             'catalogue/author_description.html',
 
 156     def century_description(self, number):
 
 177     def birth_century_description(self):
 
 178         return self.century_description(self.century_of_birth)
 
 180     def death_century_description(self):
 
 181         return self.century_description(self.century_of_death)
 
 183     def year_description(self, number):
 
 191     def year_of_birth_description(self):
 
 192         return self.year_description(self.year_of_birth)
 
 193     def year_of_death_description(self):
 
 194         return self.year_description(self.year_of_death)
 
 197 class NotableBook(OrderableModel):
 
 198     author = models.ForeignKey(Author, models.CASCADE)
 
 199     book = models.ForeignKey('Book', models.CASCADE)
 
 202 class Category(WikidataModel):
 
 203     name = models.CharField(_("name"), max_length=255)
 
 204     slug = models.SlugField(max_length=255, unique=True)
 
 205     description = models.TextField(_("description"), blank=True, help_text=_('for publication'))
 
 214 class Epoch(Category):
 
 215     adjective_feminine_singular = models.CharField(
 
 216         'przymiotnik pojedynczy żeński', max_length=255, blank=True,
 
 217         help_text='twórczość … Adama Mickiewicza'
 
 219     adjective_nonmasculine_plural = models.CharField(
 
 220         'przymiotnik mnogi niemęskoosobowy', max_length=255, blank=True,
 
 221         help_text='utwory … Adama Mickiewicza'
 
 225         verbose_name = _('epoch')
 
 226         verbose_name_plural = _('epochs')
 
 229 class Genre(Category):
 
 230     plural = models.CharField(
 
 231         'liczba mnoga', max_length=255, blank=True,
 
 233     is_epoch_specific = models.BooleanField(
 
 235         help_text='Po wskazaniu tego gatunku, dodanie epoki byłoby nadmiarowe, np. „dramat romantyczny”'
 
 239         verbose_name = _('genre')
 
 240         verbose_name_plural = _('genres')
 
 243 class Kind(Category):
 
 244     collective_noun = models.CharField(
 
 245         'określenie zbiorowe', max_length=255, blank=True,
 
 246         help_text='np. „Liryka” albo „Twórczość dramatyczna”'
 
 250         verbose_name = _('kind')
 
 251         verbose_name_plural = _('kinds')
 
 254 class Book(WikidataModel):
 
 255     slug = models.SlugField(max_length=255, blank=True, null=True, unique=True)
 
 256     authors = models.ManyToManyField(Author, blank=True, verbose_name=_("authors"))
 
 257     translators = models.ManyToManyField(
 
 259         related_name="translated_book_set",
 
 260         related_query_name="translated_book",
 
 262         verbose_name=_("translators")
 
 264     epochs = models.ManyToManyField(Epoch, blank=True, verbose_name=_("epochs"))
 
 265     kinds = models.ManyToManyField(Kind, blank=True, verbose_name=_("kinds"))
 
 266     genres = models.ManyToManyField(Genre, blank=True, verbose_name=_("genres"))
 
 267     title = models.CharField(_("title"), max_length=255, blank=True)
 
 268     language = models.CharField(_("language"), max_length=255, blank=True)
 
 269     based_on = models.ForeignKey(
 
 270         "self", models.PROTECT, related_name="translation", null=True, blank=True,
 
 271         verbose_name=_("based on")
 
 273     scans_source = models.CharField(_("scans source"), max_length=255, blank=True)
 
 274     text_source = models.CharField(_("text source"), max_length=255, blank=True)
 
 275     notes = models.TextField(_("notes"), blank=True, help_text=_('private'))
 
 276     priority = models.PositiveSmallIntegerField(
 
 278         default=0, choices=[(0, _("Low")), (1, _("Medium")), (2, _("High"))]
 
 280     original_year = models.IntegerField(_('original publication year'), null=True, blank=True)
 
 281     pd_year = models.IntegerField(_('year of entry into PD'), null=True, blank=True)
 
 282     gazeta_link = models.CharField(_("gazeta link"), max_length=255, blank=True)
 
 283     collections = models.ManyToManyField("Collection", blank=True, verbose_name=_("collections"))
 
 285     estimated_chars = models.IntegerField(_("estimated number of characters"), null=True, blank=True)
 
 286     estimated_verses = models.IntegerField(_("estimated number of verses"), null=True, blank=True)
 
 287     estimate_source = models.CharField(_("source of estimates"), max_length=2048, blank=True)
 
 289     free_license = models.BooleanField(_('free license'), default=False)
 
 290     polona_missing = models.BooleanField(_('missing on Polona'), default=False)
 
 292     monthly_views_reader = models.IntegerField(default=0)
 
 293     monthly_views_page = models.IntegerField(default=0)
 
 296         ordering = ("title",)
 
 297         verbose_name = _('book')
 
 298         verbose_name_plural = _('books')
 
 301         authors = WIKIDATA.AUTHOR
 
 302         translators = WIKIDATA.TRANSLATOR
 
 303         title = WIKIDATA.TITLE
 
 304         language = WIKIDATA.LANGUAGE
 
 305         based_on = WIKIDATA.BASED_ON
 
 306         original_year = WIKIDATA.PUBLICATION_DATE
 
 307         notes = WikiMedia.append("description")
 
 311         if self.original_year:
 
 312             txt = f"{txt} ({self.original_year})"
 
 313         astr = self.authors_str()
 
 315             txt = f"{txt}, {astr}"
 
 316         tstr = self.translators_str()
 
 318             txt = f"{txt}, tłum. {tstr}"
 
 321     def get_absolute_url(self):
 
 322         return reverse("catalogue_book", args=[self.slug])
 
 324     def is_text_public(self):
 
 325         return self.free_license or (self.pd_year is not None and self.pd_year <= date.today().year)
 
 327     def audio_status(self):
 
 332         return f'https://wolnelektury.pl/katalog/lektura/{self.slug}/'
 
 334     def authors_str(self):
 
 337         return ", ".join(str(author) for author in self.authors.all())
 
 338     authors_str.admin_order_field = 'authors__last_name'
 
 339     authors_str.short_description = _('Author')
 
 341     def translators_str(self):
 
 344         return ", ".join(str(author) for author in self.translators.all())
 
 345     translators_str.admin_order_field = 'translators__last_name'
 
 346     translators_str.short_description = _('Translator')
 
 348     def authors_first_names(self):
 
 349         return ', '.join(a.first_name for a in self.authors.all())
 
 351     def authors_last_names(self):
 
 352         return ', '.join(a.last_name for a in self.authors.all())
 
 354     def translators_first_names(self):
 
 355         return ', '.join(a.first_name for a in self.translators.all())
 
 357     def translators_last_names(self):
 
 358         return ', '.join(a.last_name for a in self.translators.all())
 
 360     def document_book__project(self):
 
 361         b = self.document_books.first()
 
 362         if b is None: return ''
 
 363         if b.project is None: return ''
 
 364         return b.project.name
 
 368             return self.document_books.first().wldocument().book_info.audience or ''
 
 372     def get_estimated_costs(self):
 
 374             work_type: work_type.calculate(self)
 
 375             for work_type in WorkType.objects.all()
 
 378     def scans_gallery(self):
 
 379         bs = self.booksource_set.first()
 
 384     def is_published(self):
 
 385         return any(b.is_published() for b in self.document_books.all())
 
 387     def update_monthly_stats(self):
 
 388         # Find publication date.
 
 389         # By default, get previous 12 months.
 
 390         this_month = date.today().replace(day=1)
 
 391         cutoff = this_month.replace(year=this_month.year - 1)
 
 394         # If the book was published later,
 
 395         # find out the denominator.
 
 396         pbr = apps.get_model('documents', 'BookPublishRecord').objects.filter(
 
 397             book__catalogue_book=self).order_by('timestamp').first()
 
 398         if pbr is not None and pbr.timestamp.date() > cutoff:
 
 399             months = (this_month - pbr.timestamp.date()).days / 365 * 12
 
 404         stats = self.bookmonthlystats_set.filter(date__gte=cutoff).aggregate(
 
 405             views_page=models.Sum('views_page'),
 
 406             views_reader=models.Sum('views_reader')
 
 408         self.monthly_views_page = stats['views_page'] / months
 
 409         self.monthly_views_reader = stats['views_reader'] / months
 
 410         self.save(update_fields=['monthly_views_page', 'monthly_views_reader'])
 
 413     def content_stats(self):
 
 414         if hasattr(self, '_content_stats'):
 
 415             return self._content_stats
 
 417             stats = self.document_books.first().wldocument(librarian2=True).get_statistics()['total']
 
 418         except Exception as e:
 
 420         self._content_stats = stats
 
 423     chars = lambda self: self.content_stats.get('chars', '')
 
 424     chars_with_fn = lambda self: self.content_stats.get('chars_with_fn', '')
 
 425     words = lambda self: self.content_stats.get('words', '')
 
 426     words_with_fn = lambda self: self.content_stats.get('words_with_fn', '')
 
 427     verses = lambda self: self.content_stats.get('verses', '')
 
 428     verses_with_fn = lambda self: self.content_stats.get('verses_with_fn', '')
 
 429     chars_out_verse = lambda self: self.content_stats.get('chars_out_verse', '')
 
 430     chars_out_verse_with_fn = lambda self: self.content_stats.get('chars_out_verse_with_fn', '')
 
 432 class CollectionCategory(models.Model):
 
 433     name = models.CharField(_("name"), max_length=255)
 
 434     parent = models.ForeignKey('self', models.SET_NULL, related_name='children', null=True, blank=True, verbose_name=_("parent"))
 
 435     notes = models.TextField(_("notes"), blank=True, help_text=_('private'))
 
 438         ordering = ('parent__name', 'name')
 
 439         verbose_name = _('collection category')
 
 440         verbose_name_plural = _('collection categories')
 
 444             return f"{self.parent} / {self.name}"
 
 449 class Collection(models.Model):
 
 450     name = models.CharField(_("name"), max_length=255)
 
 451     slug = models.SlugField(max_length=255, unique=True)
 
 452     category = models.ForeignKey(CollectionCategory, models.SET_NULL, null=True, blank=True, verbose_name=_("category"))
 
 453     notes = models.TextField(_("notes"), blank=True, help_text=_('private'))
 
 454     description = models.TextField(_("description"), blank=True)
 
 457         ordering = ('category', 'name')
 
 458         verbose_name = _('collection')
 
 459         verbose_name_plural = _('collections')
 
 463             return f"{self.category} / {self.name}"
 
 467     def get_estimated_costs(self):
 
 469         for book in self.book_set.all():
 
 470             for k, v in book.get_estimated_costs().items():
 
 473         for author in self.author_set.all():
 
 474             for book in author.book_set.all():
 
 475                 for k, v in book.get_estimated_costs().items():
 
 477             for book in author.translated_book_set.all():
 
 478                 for k, v in book.get_estimated_costs().items():
 
 483 class WorkType(models.Model):
 
 484     name = models.CharField(_("name"), max_length=255)
 
 488         verbose_name = _('work type')
 
 489         verbose_name_plural = _('work types')
 
 491     def get_rate_for(self, book):
 
 492         for workrate in self.workrate_set.all():
 
 493             if workrate.matches(book):
 
 496     def calculate(self, book):
 
 497         workrate = self.get_rate_for(book)
 
 498         if workrate is not None:
 
 499             return workrate.calculate(book)
 
 503 class WorkRate(models.Model):
 
 504     priority = models.IntegerField(_("priority"), default=1)
 
 505     per_normpage = models.DecimalField(_("per normalized page"), decimal_places=2, max_digits=6, null=True, blank=True)
 
 506     per_verse = models.DecimalField(_("per verse"), decimal_places=2, max_digits=6, null=True, blank=True)
 
 507     work_type = models.ForeignKey(WorkType, models.CASCADE, verbose_name=_("work type"))
 
 508     epochs = models.ManyToManyField(Epoch, blank=True, verbose_name=_("epochs"))
 
 509     kinds = models.ManyToManyField(Kind, blank=True, verbose_name=_("kinds"))
 
 510     genres = models.ManyToManyField(Genre, blank=True, verbose_name=_("genres"))
 
 511     collections = models.ManyToManyField(Collection, blank=True, verbose_name=_("collections"))
 
 514         ordering = ('priority',)
 
 515         verbose_name = _('work rate')
 
 516         verbose_name_plural = _('work rates')
 
 518     def matches(self, book):
 
 519         for category in 'epochs', 'kinds', 'genres', 'collections':
 
 520             oneof = getattr(self, category).all()
 
 522                 if not set(oneof).intersection(
 
 523                         getattr(book, category).all()):
 
 527     def calculate(self, book):
 
 529             if book.estimated_verses:
 
 530                 return book.estimated_verses * self.per_verse
 
 531         elif self.per_normpage:
 
 532             if book.estimated_chars:
 
 533                 return (decimal.Decimal(book.estimated_chars) / 1800 * self.per_normpage).quantize(decimal.Decimal('1.00'), rounding=decimal.ROUND_HALF_UP)
 
 536 class Place(WikidataModel):
 
 537     name = models.CharField(_('name'), max_length=255, blank=True)
 
 538     locative = models.CharField(_('locative'), max_length=255, blank=True, help_text=_('in…'))
 
 541         verbose_name = _('place')
 
 542         verbose_name_plural = _('places')
 
 551 class BookMonthlyStats(models.Model):
 
 552     book = models.ForeignKey('catalogue.Book', models.CASCADE)
 
 553     date = models.DateField()
 
 554     views_reader = models.IntegerField(default=0)
 
 555     views_page = models.IntegerField(default=0)
 
 558     def build_for_month(cls, date):
 
 559         date = date.replace(day=1)
 
 562         date = date.isoformat()
 
 563         url = f'{settings.PIWIK_URL}?date={date}&filter_limit=-1&format=CSV&idSite={settings.PIWIK_WL_SITE_ID}&language=pl&method=Actions.getPageUrls&module=API&period={period}&segment=&token_auth={settings.PIWIK_TOKEN}&flat=1'
 
 564         data = urlopen(url).read().decode('utf-16')
 
 565         lines = data.split('\n')[1:]
 
 567             m = re.match('^/katalog/lektura/([^,./]+)\.html,', line)
 
 569                 which = 'views_reader'
 
 571                 m = re.match('^/katalog/lektura/([^,./]+)/,', line)
 
 576                 _url, _uviews, views, _rest = line.split(',', 3)
 
 579                     book = Book.objects.get(slug=slug)
 
 580                 except Book.DoesNotExist:
 
 583                     cls.objects.update_or_create(
 
 584                         book=book, date=date,
 
 585                         defaults={which: views}
 
 587                     book.update_monthly_stats()
 
 590 class Thema(models.Model):
 
 591     code = models.CharField(max_length=128, unique=True)
 
 592     name = models.CharField(max_length=1024)
 
 593     slug = models.SlugField(
 
 594         max_length=255, null=True, blank=True, unique=True,
 
 595         help_text='Element adresu na WL, w postaci: /tag/slug/. Można zmieniać.'
 
 597     plural = models.CharField(
 
 598         'liczba mnoga', max_length=255, blank=True,
 
 600     description = models.TextField(blank=True)
 
 601     public_description = models.TextField(blank=True)
 
 602     usable = models.BooleanField()
 
 603     usable_as_main = models.BooleanField(default=False)
 
 604     hidden = models.BooleanField(default=False)
 
 605     woblink_category = models.IntegerField(null=True, blank=True)
 
 609         verbose_name_plural = 'Thema'
 
 612 class Audience(models.Model):
 
 613     code = models.CharField(
 
 614         max_length=128, unique=True,
 
 615         help_text='Techniczny identifyikator. W miarę możliwości nie należy zmieniać.'
 
 617     name = models.CharField(
 
 619         help_text='W formie: „dla … (kogo?)”'
 
 621     slug = models.SlugField(
 
 622         max_length=255, null=True, blank=True, unique=True,
 
 623         help_text='Element adresu na WL, w postaci: /dla/slug/. Można zmieniać.'
 
 625     description = models.TextField(blank=True)
 
 626     thema = models.CharField(
 
 627         max_length=32, blank=True,
 
 628         help_text='Odpowiadający kwalifikator Thema.'
 
 630     woblink = models.IntegerField(null=True, blank=True)