13bf5f27d5ea338b7451c614fd3db9d5a7864afd
[audio.git] / src / archive / tasks.py
1 from datetime import datetime
2 import errno
3 import mimetypes
4 import os
5 import os.path
6 import pipes
7 import stat
8 import subprocess
9 from tempfile import NamedTemporaryFile
10 from time import sleep
11
12 from celery.task import Task
13 from django.db.models import F
14 from django.contrib.auth.models import User
15 from mutagen import File
16 from mutagen import id3
17
18 from apiclient import api_call
19 from archive.constants import status
20 from archive.models import Audiobook
21 from archive.settings import BUILD_PATH, COVER_IMAGE, UPLOAD_URL
22 from archive.utils import ExistingFile
23
24
25 class AudioFormatTask(Task):
26     abstract = True
27
28     class RemoteOperationError(BaseException):
29         pass
30
31     @classmethod
32     def set_status(cls, aid, status):
33         Audiobook.objects.filter(pk=aid).update(
34             **{'%s_status' % cls.ext: status})
35
36     @staticmethod
37     def encode(in_path, out_path):
38         raise NotImplemented
39
40     @classmethod
41     def set_tags(cls, audiobook, file_name):
42         tags = getattr(audiobook, "get_%s_tags" % cls.ext)()['tags']
43         if not tags.get('flac_sha1'):
44             tags['flac_sha1'] = audiobook.get_source_sha1()
45         audio = File(file_name)
46         for k, v in tags.items():
47             audio[k] = v
48         audio.save()
49
50     @classmethod
51     def save(cls, audiobook, file_name):
52         field = "%s_file" % cls.ext
53         getattr(audiobook, field).save(
54             "%d.%s" % (audiobook.pk, cls.ext),
55             ExistingFile(file_name),
56             save=False
57             )
58         os.chmod(getattr(audiobook, field).path, stat.S_IREAD|stat.S_IWRITE|stat.S_IRGRP|stat.S_IROTH)
59         Audiobook.objects.filter(pk=audiobook.pk).update(
60             **{field: getattr(audiobook, field)})
61
62     @classmethod
63     def published(cls, aid):
64         kwargs = {
65             "%s_published_tags" % cls.ext: F("%s_tags" % cls.ext),
66             "%s_tags" % cls.ext: None,
67             "%s_published" % cls.ext: datetime.now(),
68             '%s_status' % cls.ext: None,
69         }
70         Audiobook.objects.filter(pk=aid).update(**kwargs)
71
72     @classmethod
73     def put(cls, user, audiobook, path):
74         tags = getattr(audiobook, "get_%s_tags" % cls.ext)()
75         data = {
76             'book': tags['url'],
77             'type': cls.ext,
78             'name': tags['name'],
79             'part_name': audiobook.part_name,
80             'part_index': audiobook.index,
81             'parts_count': audiobook.parts_count,
82             'source_sha1': audiobook.source_sha1,
83         }
84         api_call(user, UPLOAD_URL, data=data, files={
85             "file": open(path, 'rb'),
86         })
87
88     def run(self, uid, aid, publish=True):
89         aid = int(aid)
90         audiobook = Audiobook.objects.get(id=aid)
91         self.set_status(aid, status.ENCODING)
92
93         user = User.objects.get(id=uid)
94
95         try:
96             os.makedirs(BUILD_PATH)
97         except OSError as e:
98             if e.errno == errno.EEXIST:
99                 pass
100             else:
101                 raise
102
103         out_file = NamedTemporaryFile(delete=False, prefix='%d-' % aid, suffix='.%s' % self.ext, dir=BUILD_PATH)
104         out_file.close()
105         self.encode(audiobook.source_file.path, out_file.name)
106         self.set_status(aid, status.TAGGING)
107         self.set_tags(audiobook, out_file.name)
108         self.set_status(aid, status.SENDING)
109
110         if publish:
111             self.put(user, audiobook, out_file.name)
112             self.published(aid)
113         else:
114             self.set_status(aid, None)
115
116         self.save(audiobook, out_file.name)
117
118     def on_failure(self, exc, task_id, args, kwargs, einfo):
119         aid = (args[0], kwargs.get('aid'))[0]
120         self.set_status(aid, None)
121
122
123 class Mp3Task(AudioFormatTask):
124     ext = 'mp3'
125
126     # these shouldn't be staticmethods
127     def id3_text(tag, text):
128         return tag(encoding=1, text=text)
129     def id3_url(tag, text):
130         return tag(url=text)
131     def id3_comment(tag, text, lang='pol'):
132         return tag(encoding=1, lang=lang, desc='', text=text)
133     def id3_priv(tag, text, what=''):
134         return tag(owner='wolnelektury.pl?%s' % what, data=text.encode('utf-8'))
135
136     TAG_MAP = {
137         'album': (id3_text, id3.TALB),
138         'albumartist': (id3_text, id3.TPE2),
139         'artist': (id3_text, id3.TPE1),
140         'conductor': (id3_text, id3.TPE3),
141         'copyright': (id3_text, id3.TCOP),
142         'date': (id3_text, id3.TDRC),
143         'genre': (id3_text, id3.TCON),
144         'language': (id3_text, id3.TLAN),
145         'organization': (id3_text, id3.TPUB),
146         'title': (id3_text, id3.TIT2),
147         'comment': (id3_comment, id3.COMM, 'pol'),
148         'contact': (id3_url, id3.WOAF),
149         'license': (id3_url, id3.WCOP),
150         'flac_sha1': (id3_priv, id3.PRIV, 'flac_sha1'),
151         'project': (id3_priv, id3.PRIV, 'project'),
152         'funded_by': (id3_priv, id3.PRIV, 'funded_by'),
153     }
154
155     @staticmethod
156     def encode(in_path, out_path):
157         # 44.1kHz 64kbps mono MP3
158         subprocess.check_call(['ffmpeg', 
159             '-i', in_path.encode('utf-8'),
160             '-ar', '44100',
161             '-ab', '64k',
162             '-ac', '1',
163             '-y',
164             '-acodec', 'libmp3lame',
165             out_path.encode('utf-8')
166             ])
167
168     @classmethod
169     def set_tags(cls, audiobook, file_name):
170         mp3_tags = audiobook.get_mp3_tags()['tags']
171         if not mp3_tags.get('flac_sha1'):
172             mp3_tags['flac_sha1'] = audiobook.get_source_sha1()
173         audio = id3.ID3(file_name)
174         for k, v in mp3_tags.items():
175             factory_tuple = cls.TAG_MAP[k]
176             factory, tagtype = factory_tuple[:2]
177             audio.add(factory(tagtype, v, *factory_tuple[2:]))
178
179         if COVER_IMAGE:
180             mime = mimetypes.guess_type(COVER_IMAGE)
181             f = open(COVER_IMAGE)
182             audio.add(id3.APIC(encoding=0, mime=mime, type=3, desc='', data=f.read()))
183             f.close()
184
185         audio.save()
186
187
188 class OggTask(AudioFormatTask):
189     ext = 'ogg'
190
191     @staticmethod
192     def encode(in_path, out_path):
193         # 44.1kHz 64kbps mono Ogg Vorbis
194         subprocess.check_call(['ffmpeg', 
195             '-i', in_path.encode('utf-8'),
196             '-ar', '44100',
197             '-ab', '64k',
198             '-ac', '1',
199             '-y',
200             '-acodec', 'libvorbis',
201             out_path.encode('utf-8')
202             ])