]> git.lyx.org Git - lyx.git/blob - lib/doc/Development.lyx
EmbeddedObjects.lyx: describe rotate boxes properly
[lyx.git] / lib / doc / Development.lyx
1 #LyX 2.2 created this file. For more info see http://www.lyx.org/
2 \lyxformat 499
3 \begin_document
4 \begin_header
5 \origin unavailable
6 \textclass scrbook
7 \options fleqn,bibliography=totoc,index=totoc,BCOR7.5mm,titlepage,captions=tableheading
8 \use_default_options false
9 \begin_modules
10 logicalmkup
11 theorems-ams
12 theorems-ams-extended
13 multicol
14 shapepar
15 \end_modules
16 \maintain_unincluded_children false
17 \begin_local_layout
18 Format 7
19 InsetLayout CharStyle:MenuItem
20 LyxType               charstyle
21 LabelString           menu
22 LatexType             command
23 LatexName             menuitem
24 Font
25 Family              Sans
26 EndFont
27 Preamble
28 \newcommand*{\menuitem}[1]{{\sffamily #1}}
29 EndPreamble
30 End
31 \end_local_layout
32 \language english
33 \language_package default
34 \inputencoding auto
35 \fontencoding global
36 \font_roman default
37 \font_sans default
38 \font_typewriter default
39 \font_math auto
40 \font_default_family default
41 \use_non_tex_fonts false
42 \font_sc false
43 \font_osf false
44 \font_sf_scale 100
45 \font_tt_scale 100
46 \graphics default
47 \default_output_format default
48 \output_sync 0
49 \bibtex_command default
50 \index_command default
51 \paperfontsize 12
52 \spacing single
53 \use_hyperref true
54 \pdf_title "LyX's Development manual"
55 \pdf_author "LyX Team"
56 \pdf_subject "LyX's development documentation"
57 \pdf_keywords "LyX, Documentation, Development"
58 \pdf_bookmarks true
59 \pdf_bookmarksnumbered true
60 \pdf_bookmarksopen true
61 \pdf_bookmarksopenlevel 1
62 \pdf_breaklinks false
63 \pdf_pdfborder false
64 \pdf_colorlinks true
65 \pdf_backref false
66 \pdf_pdfusetitle false
67 \pdf_quoted_options "linkcolor=black, citecolor=black, urlcolor=blue, filecolor=blue, pdfpagelayout=OneColumn, pdfnewwindow=true, pdfstartview=XYZ, plainpages=false"
68 \papersize a4paper
69 \use_geometry false
70 \use_package amsmath 1
71 \use_package amssymb 1
72 \use_package cancel 0
73 \use_package esint 0
74 \use_package mathdots 1
75 \use_package mathtools 0
76 \use_package mhchem 1
77 \use_package stackrel 0
78 \use_package stmaryrd 0
79 \use_package undertilde 0
80 \cite_engine basic
81 \cite_engine_type default
82 \biblio_style plain
83 \use_bibtopic false
84 \use_indices false
85 \paperorientation portrait
86 \suppress_date false
87 \justification true
88 \use_refstyle 0
89 \notefontcolor #0000ff
90 \index Index
91 \shortcut idx
92 \color #008000
93 \end_index
94 \secnumdepth 3
95 \tocdepth 3
96 \paragraph_separation indent
97 \paragraph_indentation default
98 \quotes_language english
99 \papercolumns 1
100 \papersides 2
101 \paperpagestyle headings
102 \tracking_changes false
103 \output_changes false
104 \html_math_output 0
105 \html_css_as_file 0
106 \html_be_strict true
107 \end_header
108
109 \begin_body
110
111 \begin_layout Title
112 Developing \SpecialChar LyX
113
114 \end_layout
115
116 \begin_layout Subtitle
117 Version 2.2.x
118 \end_layout
119
120 \begin_layout Author
121 by the \SpecialChar LyX
122  Team
123 \begin_inset Foot
124 status collapsed
125
126 \begin_layout Plain Layout
127 \noindent
128 If you have comments or error corrections, please send them to the \SpecialChar LyX
129  Documentatio
130 n mailing list, 
131 \begin_inset Flex Code
132 status collapsed
133
134 \begin_layout Plain Layout
135 \noindent
136 <lyx-docs@lists.lyx.org>
137 \end_layout
138
139 \end_inset
140
141 .
142 \end_layout
143
144 \end_inset
145
146
147 \end_layout
148
149 \begin_layout Standard
150 \begin_inset CommandInset toc
151 LatexCommand tableofcontents
152
153 \end_inset
154
155
156 \end_layout
157
158 \begin_layout Chapter
159 Introduction
160 \end_layout
161
162 \begin_layout Standard
163 This manual documents some aspects of \SpecialChar LyX
164  development.
165  It is currently rather incomplete, but will hopefully be extended in the
166  future.
167  Meanwhile, additional information can be found in the 
168 \begin_inset Flex Code
169 status collapsed
170
171 \begin_layout Plain Layout
172 development
173 \end_layout
174
175 \end_inset
176
177  subfolder of the \SpecialChar LyX
178  source code distribution.
179  This document is not translated, since the development language of \SpecialChar LyX
180  is
181  english.
182  If you want to use \SpecialChar LyX
183  you don't need to read this manual.
184  However, if you want to learn more about how \SpecialChar LyX
185  is developed, or even want
186  to participate in \SpecialChar LyX
187  development, you may find some interesting information.
188 \end_layout
189
190 \begin_layout Chapter
191 File formats
192 \end_layout
193
194 \begin_layout Standard
195 \SpecialChar LyX
196  uses several custom file formats for configuration files and documents.
197  This chapter contains some background concerning these file formats.
198  Several file formats are also described in detail in the regular user documenta
199 tion.
200 \end_layout
201
202 \begin_layout Section
203 File Format Numbers
204 \end_layout
205
206 \begin_layout Section
207 When is an update of the .lyx file format number needed?
208 \begin_inset CommandInset label
209 LatexCommand label
210 name "sec:When-is-an"
211
212 \end_inset
213
214
215 \end_layout
216
217 \begin_layout Standard
218 When you are working on a new feature you may ask yourself whether it needs
219  an update of the .lyx file format number.
220  Whether an update is needed or not is not always obvious.
221  Below you can find a list of reasons for file format updates with explanations:
222 \end_layout
223
224 \begin_layout Description
225 New
226 \begin_inset space ~
227 \end_inset
228
229 document
230 \begin_inset space ~
231 \end_inset
232
233 setting Whenever you introduce a new setting that is stored in the document
234  header, a file format update is needed.
235  This is also true if you add a new valid value to an existing setting,
236  e.
237 \begin_inset space \thinspace{}
238 \end_inset
239
240 g.
241 \begin_inset space \space{}
242 \end_inset
243
244 a new language that is stored in 
245 \begin_inset Flex Code
246 status collapsed
247
248 \begin_layout Plain Layout
249
250 \backslash
251 language
252 \end_layout
253
254 \end_inset
255
256 .
257 \end_layout
258
259 \begin_layout Description
260 Removed
261 \begin_inset space ~
262 \end_inset
263
264 document
265 \begin_inset space ~
266 \end_inset
267
268 setting If a certain setting becomes obsolete and gets removed, a file format
269  update is needed.
270 \end_layout
271
272 \begin_layout Description
273 New
274 \begin_inset space ~
275 \end_inset
276
277 inset Of course a new inset requires a file format update.
278 \end_layout
279
280 \begin_layout Description
281 New
282 \begin_inset space ~
283 \end_inset
284
285 style in any layout file or module shipped with \SpecialChar LyX
286 , or new shipped layout
287  file or module.
288  These requirements are currently under discussion and might change in the
289  future.
290 \end_layout
291
292 \begin_layout Description
293 Automatically
294 \begin_inset space ~
295 \end_inset
296
297 loaded
298 \begin_inset space ~
299 \end_inset
300
301 math
302 \begin_inset space ~
303 \end_inset
304
305 package Any new math package that is automatically loaded needs a file format
306  update.
307  The reason for this is that there is no true ERT inset for math formulas:
308  Each command is parsed, and if a user happens to defne a local command
309  with the same name as a command that triggers an automatic load of a package,
310  he needs to be able to switch off the automatic loading of that package.
311  This switch is stored by the 
312 \begin_inset Flex Code
313 status collapsed
314
315 \begin_layout Plain Layout
316 use_package
317 \end_layout
318
319 \end_inset
320
321  header setting.
322 \end_layout
323
324 \begin_layout Standard
325 If you are still unsure, please ask on the development list.
326 \end_layout
327
328 \begin_layout Section
329 How to update the file format number of .lyx files
330 \end_layout
331
332 \begin_layout Standard
333 Once you came to the conclusion that a file format update is needed you
334  should use the following procedure to perform the update:
335 \end_layout
336
337 \begin_layout Enumerate
338 Implement and test the new feature, including the reading and writing of
339  .lyx files.
340  Note that any file produced at this stage does not use a valid format,
341  so do not use this version of \SpecialChar LyX
342  for working on any important documents.
343 \end_layout
344
345 \begin_layout Enumerate
346 Describe the new format in 
347 \begin_inset Flex Code
348 status collapsed
349
350 \begin_layout Plain Layout
351 development/FORMAT
352 \end_layout
353
354 \end_inset
355
356 .
357 \end_layout
358
359 \begin_layout Enumerate
360 Update the \SpecialChar LyX
361  file format number in 
362 \begin_inset Flex Code
363 status collapsed
364
365 \begin_layout Plain Layout
366 src/version.h
367 \end_layout
368
369 \end_inset
370
371 .
372 \end_layout
373
374 \begin_layout Enumerate
375 Add an entry to both format lists (for conversion and reversion) in
376 \begin_inset Newline newline
377 \end_inset
378
379
380 \begin_inset Flex Code
381 status collapsed
382
383 \begin_layout Plain Layout
384 lib/lyx2lyx/lyx_2_2.py
385 \end_layout
386
387 \end_inset
388
389 .
390  Add a conversion routine if needed (e.
391 \begin_inset space \thinspace{}
392 \end_inset
393
394 g.
395 \begin_inset space \space{}
396 \end_inset
397
398 a new header setting always needs a conversion that adds the new setting,
399  a new document language does not need one).
400  Add a reversion routine if needed.
401  While the conversion routine is required to produce a document that is
402  equivalent to the old version, the requirements of the reversion are not
403  that strict.
404  If possible, try to produce a proper reversion, using ERT if needed, but
405  for some features this might be too complicated.
406  In this case, the minimum requirement of the reversion routine is that
407  it produces a valid document which can be read by an older \SpecialChar LyX
408 .
409  If absolutely needed, even data loss is allowed for the reversion.
410 \end_layout
411
412 \begin_layout Enumerate
413 Since tex2lyx has several implicit file format dependencies caused by sharing
414  code with \SpecialChar LyX
415 , updating the file format of .lyx files produced by tex2lyx at
416  the same time as updating the main .lyx file format is strongly recommended.
417  Therefore, a compiler warning will be issued if the \SpecialChar LyX
418  and tex2lyx .lyx file
419  format numbers differ.
420  In many cases the tex2lyx update requires only the first and last item
421  of the list below:
422 \begin_inset Separator parbreak
423 \end_inset
424
425
426 \end_layout
427
428 \begin_deeper
429 \begin_layout Enumerate
430 Update the tex2lyx file format number in 
431 \begin_inset Flex Code
432 status collapsed
433
434 \begin_layout Plain Layout
435 src/version.h
436 \end_layout
437
438 \end_inset
439
440 .
441 \end_layout
442
443 \begin_layout Enumerate
444 If the lyx2lyx conversion from the old to the new format is empty, or if
445  tex2lyx does not yet output the changed feature, you do not need any further
446  tex2lyx changes.
447  Otherwise, search for the changed feature in tex2lyx, and adjust the output
448  according to the lyx2lyx changes.
449 \end_layout
450
451 \begin_layout Enumerate
452 Update the tex2lyx test references as described in 
453 \begin_inset CommandInset ref
454 LatexCommand formatted
455 reference "sec:Updating-test-references"
456
457 \end_inset
458
459 .
460 \end_layout
461
462 \end_deeper
463 \begin_layout Enumerate
464 If you did not implement full tex2lyx support of the new feature, add a
465  line to 
466 \begin_inset Flex Code
467 status collapsed
468
469 \begin_layout Plain Layout
470 src/tex2lyx/TODO.txt
471 \end_layout
472
473 \end_inset
474
475  describing the missing bits.
476  Note that it is perfectly fine if you do not add full tex2lyx support for
477  a new feature: The updating recommendation above is only issued for the
478  syntax of the produced .lyx file.
479  It is no problem if some features supported by \SpecialChar LyX
480  are still output as ERT
481  by tex2lyx, since the problems in the past that resulted in the update
482  recommendation were related to mixed version syntax, not ERT.
483 \end_layout
484
485 \begin_layout Enumerate
486 It would be nice if you could create a .lyx test file which contains instances
487  of all changed or added features.
488  This could then be used to test lyxl2yx and tex2lyx.
489  Unfortunately it has not yet been decided how to collect such examples,
490  so please ask on the development list if you want to create one.
491 \end_layout
492
493 \begin_layout Section
494 Backporting new styles to the stable version
495 \end_layout
496
497 \begin_layout Standard
498 Starting with the stable \SpecialChar LyX
499  2.1 branch, there is a mechanism in place to backport
500  new styles to the stable version without the need to update the file format.
501  The basic idea is that the new style definition is automatically copied
502  to the document preamble, so that it can even be used by older minor revisions
503  that did not yet include the style.
504  To backport a new style to the stable version, the following steps are
505  needed:
506 \end_layout
507
508 \begin_layout Enumerate
509 Add the line 
510 \begin_inset Flex Code
511 status collapsed
512
513 \begin_layout Plain Layout
514 ForceLocal -1
515 \end_layout
516
517 \end_inset
518
519  to the style definition in the development version.
520 \end_layout
521
522 \begin_layout Enumerate
523 Copy the style definition to the stable version, but use 
524 \begin_inset Flex Code
525 status collapsed
526
527 \begin_layout Plain Layout
528 ForceLocal 1
529 \end_layout
530
531 \end_inset
532
533  instead.
534  If needed adjust the format to the one used by the stable version (see
535  the customization manual for details of the layout file format).
536 \end_layout
537
538 \begin_layout Enumerate
539 For each update of the style in a later stable version, increase the argument
540  of 
541 \begin_inset Flex Code
542 status collapsed
543
544 \begin_layout Plain Layout
545 ForceLocal
546 \end_layout
547
548 \end_inset
549
550  by one (in the stable version, the development version should not be touched).
551 \end_layout
552
553 \begin_layout Standard
554 For details about the 
555 \begin_inset Flex Code
556 status collapsed
557
558 \begin_layout Plain Layout
559 ForceLocal
560 \end_layout
561
562 \end_inset
563
564  flag see the customization manual.
565  No 
566 \begin_inset Flex Code
567 status collapsed
568
569 \begin_layout Plain Layout
570 lyx2lyx
571 \end_layout
572
573 \end_inset
574
575  support is needed for backported styles: Since the style of the development
576  version has an infinite version number, it will always be used.
577  Furthermore, since its version number is less than one, the style will
578  not be written anymore to the document header for files saved by the new
579  version.
580 \end_layout
581
582 \begin_layout Chapter
583 Tests
584 \end_layout
585
586 \begin_layout Standard
587 Automated tests are an important tool to detect bugs and regressions in
588  software development.
589  Some projects like gcc even require each bug fix to be accompanied by a
590  test case for the automatic test suite, that would detect this bug.
591  Testing interactive features automatically is of course very hard, but
592  core functionality like document import and export can be tested quite
593  easily, and some tests of this kind exist.
594 \end_layout
595
596 \begin_layout Section
597 \SpecialChar LyX
598  tests
599 \end_layout
600
601 \begin_layout Standard
602 Some tests are located in the 
603 \begin_inset Flex Code
604 status collapsed
605
606 \begin_layout Plain Layout
607 development/autotests
608 \end_layout
609
610 \end_inset
611
612  subfolder of the \SpecialChar LyX
613  source code distribution.
614 \end_layout
615
616 \begin_layout Subsection
617 Running the tests
618 \end_layout
619
620 \begin_layout Standard
621 cmake is required to run the \SpecialChar LyX
622  tests, running them is not implemented for
623  autotools.
624  The \SpecialChar LyX
625  tests can be run by the commands 
626 \begin_inset Flex Code
627 status collapsed
628
629 \begin_layout Plain Layout
630 ctest
631 \end_layout
632
633 \end_inset
634
635  (all platforms) or 
636 \begin_inset Flex Code
637 status collapsed
638
639 \begin_layout Plain Layout
640 make test
641 \end_layout
642
643 \end_inset
644
645  (when using a make based build system and not MSVC) in the 
646 \begin_inset Flex Code
647 status collapsed
648
649 \begin_layout Plain Layout
650 autotests
651 \end_layout
652
653 \end_inset
654
655  subfolder of the build directory.
656 \end_layout
657
658 \begin_layout Section
659 tex2lyx tests
660 \end_layout
661
662 \begin_layout Standard
663 The tex2lyx tests are located in the 
664 \begin_inset Flex Code
665 status collapsed
666
667 \begin_layout Plain Layout
668 src/tex2lyx/test
669 \end_layout
670
671 \end_inset
672
673  subfolder of the \SpecialChar LyX
674  source code distribution.
675  The actual testing is performed by the simple python script 
676 \begin_inset Flex Code
677 status collapsed
678
679 \begin_layout Plain Layout
680 src/tex2lyx/test/runtests.py
681 \end_layout
682
683 \end_inset
684
685 .
686  Each test consists of two files: 
687 \begin_inset Flex Code
688 status collapsed
689
690 \begin_layout Plain Layout
691 <test name>.tex
692 \end_layout
693
694 \end_inset
695
696  contains the \SpecialChar LaTeX
697  code that should be tested.
698  
699 \begin_inset Flex Code
700 status collapsed
701
702 \begin_layout Plain Layout
703 <test name>.lyx.lyx
704 \end_layout
705
706 \end_inset
707
708  contains the expected output of tex2lyx.
709  When a test is run, the actual produced output is compared with the stored
710  reference output.
711  The test passes if both are identical.
712  The test machinery is also able to generate a file 
713 \begin_inset Flex Code
714 status collapsed
715
716 \begin_layout Plain Layout
717 <test name>.lyx.tex
718 \end_layout
719
720 \end_inset
721
722  by exporting the produced .lyx file with \SpecialChar LyX
723  again.
724  This may be useful for roundtrip comparisons.
725 \end_layout
726
727 \begin_layout Subsection
728 Running the tests
729 \end_layout
730
731 \begin_layout Standard
732 The tex2lyx tests can be run in several ways.
733  When in the 
734 \begin_inset Flex Code
735 status collapsed
736
737 \begin_layout Plain Layout
738 src/tex2lyx
739 \end_layout
740
741 \end_inset
742
743  subfolder of the build directory, the commands 
744 \begin_inset Flex Code
745 status collapsed
746
747 \begin_layout Plain Layout
748 ctest
749 \end_layout
750
751 \end_inset
752
753  (cmake, all platforms), 
754 \begin_inset Flex Code
755 status collapsed
756
757 \begin_layout Plain Layout
758 make test
759 \end_layout
760
761 \end_inset
762
763  (cmake, when using a make based build system and not MSVC) or 
764 \begin_inset Flex Code
765 status collapsed
766
767 \begin_layout Plain Layout
768 make alltests
769 \end_layout
770
771 \end_inset
772
773  (autotools) will run the tex2lyx tests.
774  Alternatively, in the root of the build directory, the command 
775 \begin_inset Flex Code
776 status collapsed
777
778 \begin_layout Plain Layout
779 ctest -R tex2lyx
780 \end_layout
781
782 \end_inset
783
784  runs all tests whose names match the regex 
785 \begin_inset Quotes eld
786 \end_inset
787
788 tex2lyx
789 \begin_inset Quotes erd
790 \end_inset
791
792 .
793  Another way to run the tex2lyx tests in the root build directory is to
794  instead use the command 
795 \begin_inset Flex Code
796 status collapsed
797
798 \begin_layout Plain Layout
799 ctest -L '(cmplyx|roundtrip)'
800 \end_layout
801
802 \end_inset
803
804 , which runs all tests categorized with the label 
805 \begin_inset Quotes eld
806 \end_inset
807
808 roundtrip
809 \begin_inset Quotes erd
810 \end_inset
811
812  or 
813 \begin_inset Quotes eld
814 \end_inset
815
816 cmplyx
817 \begin_inset Quotes erd
818 \end_inset
819
820 .
821  If a test fails, the differences between the expected and actual results
822  are output in unified diff format.
823 \end_layout
824
825 \begin_layout Subsection
826 Updating test references
827 \begin_inset CommandInset label
828 LatexCommand label
829 name "sec:Updating-test-references"
830
831 \end_inset
832
833
834 \end_layout
835
836 \begin_layout Standard
837 In some cases a changed tex2lyx output is not a test failure, but wanted,
838  e.
839 \begin_inset space \thinspace{}
840 \end_inset
841
842 g.
843 \begin_inset space \space{}
844 \end_inset
845
846 if a tex2lyx bug was fixed, or a new feature was added.
847  In these cases the stored references need to be updated.
848  To do so if using autotools, call 
849 \begin_inset Flex Code
850 status collapsed
851
852 \begin_layout Plain Layout
853 make updatetests
854 \end_layout
855
856 \end_inset
857
858  in the 
859 \begin_inset Flex Code
860 status collapsed
861
862 \begin_layout Plain Layout
863 src/tex2lyx
864 \end_layout
865
866 \end_inset
867
868  subdirectory of the build directory.
869  If instead using CMake, call 
870 \begin_inset Flex Code
871 status collapsed
872
873 \begin_layout Plain Layout
874 make updatetex2lyxtests
875 \end_layout
876
877 \end_inset
878
879  in the build directory or in the 
880 \begin_inset Flex Code
881 status collapsed
882
883 \begin_layout Plain Layout
884 src/tex2lyx/test
885 \end_layout
886
887 \end_inset
888
889  subdirectory of the build directory
890 \begin_inset Foot
891 status collapsed
892
893 \begin_layout Plain Layout
894 Note that this is a case where a make target in the build directory can
895  affect the source directory, which might not be advisable.
896 \end_layout
897
898 \end_inset
899
900 .
901  For convenience, these commands also produce re-exported roundtrip .lyx.tex
902  files.
903  Please examine the changed output carefully before committing the changed
904  files to the repository: Since the test machinery does not do a roundtrip
905  test .tex 
906 \begin_inset Formula $\Rightarrow$
907 \end_inset
908
909  .lyx 
910 \begin_inset Formula $\Rightarrow$
911 \end_inset
912
913  .tex, and does not compare the produced dvi or pdf output, it assumes that
914  the stored .lyx reference produces correct output if processed by \SpecialChar LyX
915 .
916  There is only one chance to detect wrong output: before committing a new
917  reference.
918  Once it is committed, it is quite difficult to verify whether it is correct.
919 \end_layout
920
921 \begin_layout Standard
922 Please 
923 \emph on
924 do not
925 \emph default
926  update the test references by opening them with \SpecialChar LyX
927  or directly running lyx2lyx
928  on them.
929  This would not work, since lyx2lyx and \SpecialChar LyX
930  produce slightly different files
931  regarding insignificant whitespace and line breaks.
932 \end_layout
933
934 \begin_layout Subsection
935 Adding a new test
936 \end_layout
937
938 \begin_layout Standard
939 In many cases tests for new features may be added to one of the existing
940  test files, but sometimes this is not possible or not wanted.
941  Then a new test file needs to be added:
942 \end_layout
943
944 \begin_layout Enumerate
945 Create the new file 
946 \begin_inset Flex Code
947 status collapsed
948
949 \begin_layout Plain Layout
950 src/tex2lyx/test/<test name>.tex
951 \end_layout
952
953 \end_inset
954
955  and run tex2lyx in roundtrip mode to produce the file 
956 \begin_inset Flex Code
957 status collapsed
958
959 \begin_layout Plain Layout
960 src/tex2lyx/test/<test name>.lyx.lyx
961 \end_layout
962
963 \end_inset
964
965 .
966  This file will be the new reference.
967 \end_layout
968
969 \begin_layout Enumerate
970 Once you confirmed that the tex2lyx output is correct, add the new files
971  to the corresponding lists in 
972 \begin_inset Flex Code
973 status collapsed
974
975 \begin_layout Plain Layout
976 src/tex2lyx/test/runtests.py
977 \end_layout
978
979 \end_inset
980
981
982 \begin_inset Flex Code
983 status collapsed
984
985 \begin_layout Plain Layout
986 src/tex2lyx/Makefile.am
987 \end_layout
988
989 \end_inset
990
991  and 
992 \begin_inset Flex Code
993 status collapsed
994
995 \begin_layout Plain Layout
996 src/tex2lyx/test/CMakeLists.txt
997 \end_layout
998
999 \end_inset
1000
1001 .
1002 \end_layout
1003
1004 \begin_layout Enumerate
1005 Commit the changes to the repository, or send a patch to the development
1006  list and ask for committing if you do not have commit rights.
1007 \end_layout
1008
1009 \begin_layout Section
1010 Export tests
1011 \end_layout
1012
1013 \begin_layout Standard
1014 The export tests are integration tests.
1015  They take longer to run and are more likely to break than the tex2lyx tests.
1016  Nevertheless, they have caught many regressions and without a better alternativ
1017 e it is important to keep them up-to-date and understand how they work.
1018 \end_layout
1019
1020 \begin_layout Subsection
1021 Expectations of LyX developers
1022 \end_layout
1023
1024 \begin_layout Standard
1025 Because the export tests are integration tests and take a long time to run,
1026  LyX developers are rarely expected to run all of the tests.
1027  Here are some good practices to follow by developers:
1028 \end_layout
1029
1030 \begin_layout Itemize
1031 When making a non-trivial change to a .layout file, run the export and layout
1032  tests corresponding with that .layout file.
1033 \end_layout
1034
1035 \begin_layout Itemize
1036 When making non-trivial changes to a .lyx file, run the export tests correspondin
1037 g to that .lyx file.
1038 \end_layout
1039
1040 \begin_layout Itemize
1041 When making non-trivial changes to LyX's LaTeX export code (e.g.
1042  touching the encoding code or package handling code that you expect will
1043  change the exported LaTeX in some way), consider running all of the export
1044  tests before and after your change.
1045  If there are differences, please reconcile these (i.e.
1046  fix the bug or fix the tests) 
1047 \emph on
1048 before
1049 \emph default
1050  committing.
1051  Ask for help if you're not sure what to do or if you do not want to run
1052  the tests, post the patch on the list and others will run the tests.
1053 \end_layout
1054
1055 \begin_layout Itemize
1056 Understand how to interpret test failures.
1057  If your commit is found to have broken a test, you should be able to interpret
1058  the test results when made aware of them.
1059  See Section 
1060 \begin_inset CommandInset ref
1061 LatexCommand ref
1062 reference "subsec:Interpreting-export-tests"
1063
1064 \end_inset
1065
1066 .
1067 \end_layout
1068
1069 \begin_layout Subsection
1070 Configuring the tests
1071 \end_layout
1072
1073 \begin_layout Standard
1074 To enable these tests when using CMake, add the 
1075 \begin_inset Flex Code
1076 status collapsed
1077
1078 \begin_layout Plain Layout
1079 -DLYX_ENABLE_EXPORT_TESTS=ON
1080 \end_layout
1081
1082 \end_inset
1083
1084  flag.
1085  For example:
1086 \end_layout
1087
1088 \begin_layout Standard
1089 \begin_inset Flex Code
1090 status collapsed
1091
1092 \begin_layout Plain Layout
1093 cmake -DLYX_ENABLE_EXPORT_TESTS=ON /path/to/source
1094 \end_layout
1095
1096 \end_inset
1097
1098
1099 \end_layout
1100
1101 \begin_layout Standard
1102 \noindent
1103 This flag will increase the time for the cmake command by several seconds,
1104  mainly because of the process of inverting tests (see Section 
1105 \begin_inset CommandInset ref
1106 LatexCommand ref
1107 reference "subsec:Interpreting-export-tests"
1108
1109 \end_inset
1110
1111 ).
1112 \end_layout
1113
1114 \begin_layout Subsection
1115 Running the tests
1116 \end_layout
1117
1118 \begin_layout Standard
1119 To run all tests, in the build directory simply run the command 
1120 \begin_inset Flex Code
1121 status collapsed
1122
1123 \begin_layout Plain Layout
1124 ctest
1125 \end_layout
1126
1127 \end_inset
1128
1129 .
1130  To run only some of the tests, use the command 
1131 \begin_inset Flex Code
1132 status collapsed
1133
1134 \begin_layout Plain Layout
1135 ctest -R <pattern>
1136 \end_layout
1137
1138 \end_inset
1139
1140 , where 
1141 \begin_inset Flex Code
1142 status collapsed
1143
1144 \begin_layout Plain Layout
1145 <pattern>
1146 \end_layout
1147
1148 \end_inset
1149
1150  is a regular expression that matches test names.
1151  To run only the export tests, you can use 
1152 \begin_inset Flex Code
1153 status collapsed
1154
1155 \begin_layout Plain Layout
1156 ctest -L export
1157 \end_layout
1158
1159 \end_inset
1160
1161 .
1162  For the list of test categories available in addition to 
1163 \begin_inset Quotes eld
1164 \end_inset
1165
1166 export
1167 \begin_inset Quotes erd
1168 \end_inset
1169
1170 , run 
1171 \begin_inset Flex Code
1172 status collapsed
1173
1174 \begin_layout Plain Layout
1175 ctest --print-labels
1176 \end_layout
1177
1178 \end_inset
1179
1180 .
1181  It is often useful to list the tests without running them (e.g.
1182  if you want to know how many tests there are or whether your 
1183 \begin_inset Flex Code
1184 status collapsed
1185
1186 \begin_layout Plain Layout
1187 <pattern>
1188 \end_layout
1189
1190 \end_inset
1191
1192  regular expression did what you expected).
1193  This can be done with the 
1194 \begin_inset Flex Code
1195 status collapsed
1196
1197 \begin_layout Plain Layout
1198 -N
1199 \end_layout
1200
1201 \end_inset
1202
1203  or 
1204 \begin_inset Flex Code
1205 status collapsed
1206
1207 \begin_layout Plain Layout
1208 --show-only
1209 \end_layout
1210
1211 \end_inset
1212
1213  argument.
1214  We are still working on getting the tests to run in parallel which is supported
1215  by the 
1216 \begin_inset Flex Code
1217 status collapsed
1218
1219 \begin_layout Plain Layout
1220 ctest
1221 \end_layout
1222
1223 \end_inset
1224
1225  command with the 
1226 \begin_inset Flex Code
1227 status collapsed
1228
1229 \begin_layout Plain Layout
1230 -j <jobs>
1231 \end_layout
1232
1233 \end_inset
1234
1235  or 
1236 \begin_inset Flex Code
1237 status collapsed
1238
1239 \begin_layout Plain Layout
1240 --parallel <jobs>
1241 \end_layout
1242
1243 \end_inset
1244
1245  argument.
1246  However, when running the tests in parallel, sometimes tests fail that
1247  pass when run sequentially.
1248  A reasonable approach is to first run the tests in parallel and then run
1249  the failed tests sequentially.
1250  For example, to run 8 jobs at a time:
1251 \end_layout
1252
1253 \begin_layout Standard
1254 \begin_inset Flex Code
1255 status collapsed
1256
1257 \begin_layout Plain Layout
1258 ctest -j8
1259 \end_layout
1260
1261 \end_inset
1262
1263
1264 \end_layout
1265
1266 \begin_layout Standard
1267 \begin_inset Flex Code
1268 status collapsed
1269
1270 \begin_layout Plain Layout
1271 ctest \SpecialChar nobreakdash
1272 \SpecialChar nobreakdash
1273 rerun-failed
1274 \end_layout
1275
1276 \end_inset
1277
1278
1279 \end_layout
1280
1281 \begin_layout Standard
1282 \noindent
1283 Note that some tests cannot be run in parallel.
1284  These tests are marked in the code with the 
1285 \begin_inset Flex Code
1286 status collapsed
1287
1288 \begin_layout Plain Layout
1289 \noindent
1290 RUN_SERIAL ON
1291 \end_layout
1292
1293 \end_inset
1294
1295  CMake property.
1296 \end_layout
1297
1298 \begin_layout Standard
1299 In some situations the option 
1300 \begin_inset Flex Code
1301 status collapsed
1302
1303 \begin_layout Plain Layout
1304 --timeout <seconds>
1305 \end_layout
1306
1307 \end_inset
1308
1309  is useful.
1310  There have been bugs in LyX and in LaTeX which cause compilation to hang,
1311  and without a timeout a test might never stop (in one case there was even
1312  a memory leak).
1313  If a test times out, the 
1314 \begin_inset Flex Code
1315 status collapsed
1316
1317 \begin_layout Plain Layout
1318 ctest
1319 \end_layout
1320
1321 \end_inset
1322
1323  command exits with error, but you can distinguish between a timed out test
1324  and a failed test in the output reported at the end of the 
1325 \begin_inset Flex Code
1326 status collapsed
1327
1328 \begin_layout Plain Layout
1329 ctest
1330 \end_layout
1331
1332 \end_inset
1333
1334  command.
1335 \end_layout
1336
1337 \begin_layout Subsection
1338 \begin_inset CommandInset label
1339 LatexCommand label
1340 name "subsec:Interpreting-export-tests"
1341
1342 \end_inset
1343
1344 Interpreting the export test results
1345 \end_layout
1346
1347 \begin_layout Standard
1348 A test can fail for several reasons, not all of them bad.
1349 \end_layout
1350
1351 \begin_layout Enumerate
1352 The .lyx file could have been added recently and some formats are not expected
1353  to work well.
1354 \end_layout
1355
1356 \begin_layout Enumerate
1357 A dependency is not met (e.g.
1358  the LaTeX class file).
1359  One hint that this is the case is that the corresponding 
1360 \begin_inset Flex Code
1361 status open
1362
1363 \begin_layout Plain Layout
1364 check_load
1365 \end_layout
1366
1367 \end_inset
1368
1369  test will likely also fail.
1370 \end_layout
1371
1372 \begin_layout Enumerate
1373 An export that previously failed to compile now compiles.
1374 \end_layout
1375
1376 \begin_layout Enumerate
1377 An external dependency was updated (e.g.
1378  TeX Live).
1379 \end_layout
1380
1381 \begin_layout Enumerate
1382 A recent code change introduced a bug.
1383 \end_layout
1384
1385 \begin_layout Enumerate
1386 \begin_inset CommandInset label
1387 LatexCommand label
1388 name "enu:exposed"
1389
1390 \end_inset
1391
1392 A change in a document exposed the incompatibility of that class with an
1393  export format (e.g.
1394  LuaTeX).
1395 \end_layout
1396
1397 \begin_layout Standard
1398 Because the .lyx files are exported in several formats, it is not surprising
1399  that many of the exports fail.
1400  This expectation of failure is addressed by 
1401 \begin_inset Quotes eld
1402 \end_inset
1403
1404 inverting
1405 \begin_inset Quotes erd
1406 \end_inset
1407
1408  the tests, that is, by marking the test as 
1409 \begin_inset Quotes eld
1410 \end_inset
1411
1412 passing
1413 \begin_inset Quotes erd
1414 \end_inset
1415
1416  if the export exits with error and as 
1417 \begin_inset Quotes eld
1418 \end_inset
1419
1420 failing
1421 \begin_inset Quotes erd
1422 \end_inset
1423
1424  if the export succeeds
1425 \emph on
1426 .
1427
1428 \emph default
1429  It follows that these expected failures will not show up as failed tests
1430  in the test results and thus will not pollute the 
1431 \begin_inset Quotes eld
1432 \end_inset
1433
1434 good
1435 \begin_inset Quotes erd
1436 \end_inset
1437
1438  tests.
1439  If the export actually succeeds, then the test will fail.
1440  The purpose of this failure is to get your attention—something has changed,
1441  possibly for the better.
1442 \end_layout
1443
1444 \begin_layout Standard
1445 We try to document why a test is inverted or ignored.
1446  See the comment (prefixed with 
1447 \begin_inset Flex Code
1448 status collapsed
1449
1450 \begin_layout Plain Layout
1451 #
1452 \end_layout
1453
1454 \end_inset
1455
1456 ) above the block in which the test is listed as inverted or ignored in
1457  the files 
1458 \begin_inset Flex Code
1459 status collapsed
1460
1461 \begin_layout Plain Layout
1462 development/autotests/revertedTests
1463 \end_layout
1464
1465 \end_inset
1466
1467  and 
1468 \begin_inset Flex Code
1469 status collapsed
1470
1471 \begin_layout Plain Layout
1472 development/autotests/ignoredTests
1473 \end_layout
1474
1475 \end_inset
1476
1477 .
1478  It is possible that an export goes from succeeding to failing just because
1479  the document was changed and the document was never expected to work with
1480  a certain export format in the first case.
1481  Once this is confirmed to be the situation, the test can be inverted.
1482 \end_layout
1483
1484 \begin_layout Standard
1485 A good question is why do we enable the tests for non-default formats? The
1486  answer is that if a non-default route is broken it is often because a bug
1487  was introduced in LyX and not because a document-specific change was made
1488  that is not supported by the route.
1489  In other words, there is a high signal/noise ratio in the export tests
1490  for the non-default formats.
1491  
1492 \end_layout
1493
1494 \begin_layout Standard
1495 What action should you take if a test fails? First, check manually that
1496  when the compilation succeeded before the resulting PDF was good.
1497  In fact, sometimes it is an improvement when a test fails.
1498  If you check manually, it might be the case that the export was succeeding
1499  before but showing garbled text in a PDF output.
1500  Now it might fail with a clear message of "language xyz not supported".
1501  It is always good to check manually why something fails and if it passes
1502  if the PDF output is good.
1503 \end_layout
1504
1505 \begin_layout Standard
1506 Sometimes a test is fixed by accident.
1507  We should uninvert a test (remove it from the 
1508 \begin_inset Flex Code
1509 status collapsed
1510
1511 \begin_layout Plain Layout
1512 revertedTests
1513 \end_layout
1514
1515 \end_inset
1516
1517  file) in order to preserve the fix.
1518 \end_layout
1519
1520 \begin_layout Standard
1521 When a test or several tests fail, consider checking the files in the 
1522 \begin_inset Flex Code
1523 status collapsed
1524
1525 \begin_layout Plain Layout
1526 Testing/Temporary/
1527 \end_layout
1528
1529 \end_inset
1530
1531  subdirectory of your build directory.
1532  In this subdirectory are three files: the file 
1533 \begin_inset Flex Code
1534 status collapsed
1535
1536 \begin_layout Plain Layout
1537 LastTestsFailed.log
1538 \end_layout
1539
1540 \end_inset
1541
1542  simply lists the tests that failed on your last 
1543 \begin_inset Flex Code
1544 status collapsed
1545
1546 \begin_layout Plain Layout
1547 ctest
1548 \end_layout
1549
1550 \end_inset
1551
1552  command; the 
1553 \begin_inset Flex Code
1554 status collapsed
1555
1556 \begin_layout Plain Layout
1557 LastTest.log
1558 \end_layout
1559
1560 \end_inset
1561
1562  file contains the output from the tests (and often has details explaining
1563  why a test failed); and the 
1564 \begin_inset Flex Code
1565 status collapsed
1566
1567 \begin_layout Plain Layout
1568 CTestCostData.txt
1569 \end_layout
1570
1571 \end_inset
1572
1573  file lists the times that it took to run the tests.
1574 \end_layout
1575
1576 \begin_layout Section
1577 check_load tests
1578 \end_layout
1579
1580 \begin_layout Standard
1581 These tests check whether a .lyx file loads without any terminal messages.
1582  They correspond to the manual operations of simply opening a .lyx file on
1583  the terminal, exiting LyX once the file is loaded, and then checking whether
1584  there is any output from the terminal.
1585  These tests are useful for catching malformed .lyx files and parsing bugs.
1586  They can also be used to find a .lyx file in which an instance of something
1587  happens.
1588  To do this, compile LyX with a local patch that outputs something to the
1589  terminal when an instance is found, and then run the check_load tests to
1590  see if any fail, which would mean that the situation occurs in the LyX
1591  documentation files corresponding to the failed tests.
1592  These tests are expectedly fragile: any LyX diagnostic message, which is
1593  not necessarily an error, would cause the tests to fail.
1594  Similarly, any message output by a library (e.g.
1595  Qt) would also cause failure.
1596  There are some messages that the check_load tests are instructed to ignore,
1597  which are stored in the file 
1598 \begin_inset Flex Code
1599 status collapsed
1600
1601 \begin_layout Plain Layout
1602 development/autotests/filterCheckWarnings
1603 \end_layout
1604
1605 \end_inset
1606
1607 .
1608 \end_layout
1609
1610 \begin_layout Section
1611 URL tests
1612 \end_layout
1613
1614 \begin_layout Standard
1615 The URL tests are enabled with the 
1616 \begin_inset Flex Code
1617 status collapsed
1618
1619 \begin_layout Plain Layout
1620 -DLYX_ENABLE_URLTESTS=ON
1621 \end_layout
1622
1623 \end_inset
1624
1625  CMake flag and are useful for finding broken links in our documentation
1626  files.
1627  If a URL test fails, to see which link in particular was reported as broken,
1628  see the output in 
1629 \begin_inset Flex Code
1630 status collapsed
1631
1632 \begin_layout Plain Layout
1633 LastTest.log
1634 \end_layout
1635
1636 \end_inset
1637
1638 .
1639  These tests are extremely fragile (e.g.
1640  a test can depend on your Internet connection) and a failed URL test should
1641  not be taken too seriously.
1642 \end_layout
1643
1644 \begin_layout Chapter
1645 Development policies
1646 \end_layout
1647
1648 \begin_layout Standard
1649 This chapter lists some guidelines that should be followed.
1650  This list is not complete, and many guidelines are in separate chapters,
1651  such as 
1652 \begin_inset Quotes eld
1653 \end_inset
1654
1655 When is an update of the .lyx file format number needed?
1656 \begin_inset Quotes erd
1657 \end_inset
1658
1659  in Section 
1660 \begin_inset CommandInset ref
1661 LatexCommand ref
1662 reference "sec:When-is-an"
1663
1664 \end_inset
1665
1666 .
1667 \end_layout
1668
1669 \begin_layout Section
1670 When to set a fixed milestone?
1671 \end_layout
1672
1673 \begin_layout Standard
1674 Only set a fixed milestone (like 2.1.4 or 2.2.0) if at least one of the following
1675  holds:
1676 \end_layout
1677
1678 \begin_layout Enumerate
1679 Somebody is actively working on a fix.
1680 \end_layout
1681
1682 \begin_layout Enumerate
1683 The bug is so severe that it would block the release if it is not fixed.
1684 \end_layout
1685
1686 \begin_layout Standard
1687 If a bug is important, but nobody is working on it, and it is no showstopper,
1688  use a milestone like 2.1.x or 2.2.x.
1689  For all other bugs, do not set a milestone at all.
1690 \end_layout
1691
1692 \begin_layout Section
1693 Can we add rc entries in stable branch?
1694 \end_layout
1695
1696 \begin_layout Standard
1697 No.
1698  We are supposed to increase the prefs2prefs version number with such things.
1699 \end_layout
1700
1701 \begin_layout Chapter
1702 Documentation policies
1703 \end_layout
1704
1705 \begin_layout Standard
1706 The main documentation consists of these files:
1707 \end_layout
1708
1709 \begin_layout Description
1710 splash.lyx it is the first file you see after an installation.
1711  We assume that a new user sees this.
1712  It is therefore designed to be as simple as possible.
1713  Therefore please don't add any new formatting, only fix typos etc.
1714  Splash.lyx is up to date for \SpecialChar LyX
1715  2.1.x, currently maintained by Uwe Stöhr.
1716 \end_layout
1717
1718 \begin_layout Description
1719 Intro.lyx This is the manual new users will read to learn \SpecialChar LyX
1720 .
1721  It therefore uses a limited set of formatting.
1722  For example a standard document class.
1723  Since new users will first learn about the formatting possibilities of
1724  \SpecialChar LyX
1725  please keep this file that simple.
1726  Intro.lyx is up to date for \SpecialChar LyX
1727  2.1.x, currently maintained by Uwe Stöhr.
1728 \end_layout
1729
1730 \begin_layout Description
1731 Tutorial.lyx our tutorial.
1732  It must be always up to date.
1733  Normally there is nothing to add since we don't want to overwhelm new users
1734  with too much details.
1735  The will learn these details while using \SpecialChar LyX
1736  and we have special manuals.
1737  Tutorial.lyx is up to date for \SpecialChar LyX
1738  2.1.x, currently maintained by Uwe Stöhr.
1739 \end_layout
1740
1741 \begin_layout Description
1742 UserGuide.lyx our main user guide.
1743  It covers a mixture of basic and detailed information.
1744  Some information is also in the Math and EmbeddedObjects manual so that
1745  the UserGuide refers to these files.
1746  UserGuide.lyx is up to date for \SpecialChar LyX
1747  2.1.x, currently maintained by Uwe Stöhr.
1748 \end_layout
1749
1750 \begin_layout Description
1751 EmbeddedObjects.lyx a special manual to explain things like tables floats
1752  boxes etc.
1753  in all detail.
1754  EmbeddedObjects.lyx is up to date for \SpecialChar LyX
1755  2.1.x, currently maintained by Uwe
1756  Stöhr.
1757 \end_layout
1758
1759 \begin_layout Description
1760 Math.lyx a special manual to explain everything regarding math in all detail.
1761  Math.lyx is up to date for \SpecialChar LyX
1762  2.1.x, currently maintained by Uwe Stöhr.
1763 \end_layout
1764
1765 \begin_layout Description
1766 Additional.lyx this manual covers information that would be too much detail
1767  for the UserGuide or would make the UserGuide uncompilable or only compilable
1768  when installing a lot of special \SpecialChar LaTeX
1769 -packages.
1770  What should be in the UserGuide or better in Additional is a matter of
1771  taste.
1772  it is up to you to decide that.
1773  Additional.lyx is not completely up to date for \SpecialChar LyX
1774  2.1.x.
1775  Only chapter
1776 \begin_inset space ~
1777 \end_inset
1778
1779 8 is up to date and currently maintained by Uwe Stöhr.
1780  It certainly needs a rewrite and update.
1781  For example many info in chapter
1782 \begin_inset space ~
1783 \end_inset
1784
1785 2 and 3 are already covered by the UserGuide and/or the EmbeddedObjects
1786  manual.
1787 \end_layout
1788
1789 \begin_layout Description
1790 Customization.lyx this manual covers information how to customize \SpecialChar LyX
1791  for certain
1792  output formats, operating systems, languages etc.
1793  It is currently completely out of date and needs a major rewrite and update.
1794  If you do this please assure that your information are given for all OSes
1795  and \SpecialChar LaTeX
1796  distributions (meaning be as objective as possible).
1797 \end_layout
1798
1799 \begin_layout Standard
1800 There are only 4
1801 \begin_inset space ~
1802 \end_inset
1803
1804 rules in editing the docs:
1805 \end_layout
1806
1807 \begin_layout Enumerate
1808 If you are not the maintainer of a doc file or a chapter/section, you MUST
1809  use change tracking so that the maintainer could review your changes
1810 \end_layout
1811
1812 \begin_layout Enumerate
1813 Respect the formatting of the document.
1814  The different files use different formatting styles.
1815  That is OK and has historic reasons nobody fully know ;-).
1816  But it is important to be consistent within one file.
1817 \end_layout
1818
1819 \begin_layout Enumerate
1820 All changes you make to a file in one language MUST also go the file in
1821  the other actively maintained languages.
1822  Normally the maintainer does this for you, if you are the maintainer, you
1823  must do this by copying or changing the changed or added text to the other
1824  files so that the translators sees the blue underlined text and know what
1825  they have to translate and what was changed.
1826 \end_layout
1827
1828 \begin_layout Enumerate
1829 You MUST assure that the document is compilable as 
1830 \begin_inset Quotes eld
1831 \end_inset
1832
1833 PDF (pdflatex)
1834 \begin_inset Quotes erd
1835 \end_inset
1836
1837  after your changes.
1838 \end_layout
1839
1840 \end_body
1841 \end_document