development/autotests/unreliableTests

   1 # Regular expressions for tests that should not be executed with
   2 # ctest -L export or ctest -L inverted because they do not work as expected
   3 # (either unreliable or invalid).
   4 #
   5 # Patterns will be automatically enclosed with '^' and '$'.
   6 # Matching tests get the label "unreliable" and do not get the label "export".
   7 #
   8 # TODO: Name problem: *invalid* tests (wrong output) are not *unreliable*.
   9 #   Use "unfit" or "unapplicable" as better label and name of pattern file?
  10
  11
  12 Sublabel: nonstandard
  13 #####################
  14 # Documents with additional requirements,
  15 # e.g. a class or package file not in TeXLive.
  16 # TODO: rename to "extra" or "exotic"?
  17
  18 export/templates/IUCr-article_(dvi|pdf).*
  19 # does not work with pdflatex, lualatex (PDF) or XeTeX (postscript specials?).
  20 export/templates/(ja|es)_beamer-conference-ornate-20min_(pdf2|pdf[45]).*
  21 export/templates/kluwer_.*_systemF
  22 export/templates/ectaart_(dvi3|pdf5).*
  23
  24 # 1.) missing farsi package with lfeenc.def
  25 # 2.) LuaTeX does not support Farsi yet. See:
  26 #     https://github.com/reutenauer/polyglossia/commit/ccb0e9e2c6411170ad779b05ff5076f1193cc323
  27 export/examples/fa/splash_(dvi|pdf|pdf[23]|(dvi3|pdf4|pdf5)_(texF|systemF))
  28
  29 # requires knitr, requires rjournal.sty (not in TeXLive)
  30 # incompatible with fontspec?
  31 export/templates/RJournal_(dvi3|pdf[45])_systemF
  32
  33 # Requires aa.cls (not in TeXLive).
  34 # Fails with XeTeX/LuaTeX
  35 # Reported upstream (https://www.mail-archive.com/lyx-devel@lists.lyx.org/msg184435.html)
  36 # Is there a new version fixing the problem?
  37 export/examples/aa_sample_(dvi3|pdf[45])_.*
  38 export/templates/aa_(dvi3|pdf[45])_.*
  39
  40 # Requires iucr.cls (not in TeXLive)
  41 # Is there a new version fixing the problem?
  42 # Does LuaTeX produce sensible results?
  43 export/templates/IUCr-article_pdf4_systemF
  44
  45 # Requires acmsiggraph.cls (not in TeXLive)
  46 # see http://wiki.lyx.org/Examples/AcmSiggraph
  47 export/templates/ACM-siggraph_(dvi|pdf).*
  48
  49 Sublabel: erratic
  50 #################
  51 # Tests depending on local configuration, or the phase of the moon.
  52
  53 # for unknonwn reasons, seminar fails at some places:
  54 export/examples/(|fr/)seminar_.*(dvi|pdf).*
  55
  56 # Export fails the first time but works the second time. (Why?)
  57 export/doc/es/Customization_pdf4_texF
  58
  59
  60 Sublabel: varying_versions
  61 ##########################
  62 # Test depending on TeX distribution, package versions or OS.
  63
  64 # document class aastex.cls replaced by aastex6.cls (v.1 2016/02/16)
  65 # in CTAN and TeXLive in march 2016
  66 # Template and sample use the new version via aastex6.layout (cf. #10027)
  67 # -> fail if aastex6.cls is missing (TeXLive15 original)
  68 export/templates/aastex_(dvi|pdf).*
  69 export/examples/aas_sample_(dvi|pdf).*
  70
  71
  72 Sublabel: wrong_output
  73 ######################
  74 # Export does not fail but the resulting document has errors.
  75 #
  76 # These tests are actually not "unreliable" (different result for different
  77 # runs) but *invalid* (not measuring what they should measure).
  78
  79 # seminar.sty uses Postscript specials
  80 # -> wrong output with pdflatex/LuaTeX and DVI (missing landscape slides).
  81 export/examples/(|fr/)seminar_pdf[25].*
  82 export/examples/(|fr/)seminar_dvi.*
  83
  84 # Babel-Spanish uses Babel's "strings" feature to define
  85 # separate auto-strings using UTF-8 literals.
  86 # Babel uses the "unicode" strings if it detects XeTeX or LuaTeX.
  87 # This is wrong for Xe/Lua with 8-bit TeX-fonts.
  88 # set inputenc to utf8?
  89 # (Changing the default in lib/languages requires more tests for utf8 first.)
  90 export/examples/es/linguistics_pdf4_texF
  91 export/doc/es/.*_(pdf[45]|dvi3)_texF
  92
  93 # Non-ASCII char in verbatim environment is dropped (with a warning when
  94 # doing this interactively) with ASCII (and hence also with XeTeX).
  95 export/doc/(|de/|es/|fr/)EmbeddedObjects_pdf4_texF
  96
  97 # inputencoding="utf8-plain" with 8-bit TeX: non-ASCII characters are passed
  98 #  as two 8-bit characters leading to garbage in the output
  99 export/export/utf8-plain-with-tex-fonts_(dvi|pdf.?)
 100
 101 # The following document mixes inTitle layouts and leads to
 102 # likely unintended output. See #10347
 103 export/export/mixing_inTitle_layouts(pdf|dvi).*
 104
 105 # Characters with accents are not output
 106 # Reported to LuaTeX mailing list here:
 107 # https://www.mail-archive.com/search?l=mid&q=20160831134006.4fewxothddqfeyw4%40steph
 108 # (not expecting much attention because DVI is not given high priority)
 109 export/doc/es/Customization_dvi3_systemF
 110 export/examples/(|es/)(europe|modern)CV_dvi3_systemF