development/autotests/invertedTests

   1 # Regular expressions for tests that are known to fail
   2 #
   3 # Patterns will be automatically enclosed with '^' and '$'.
   4 # Matching tests get the label "inverted"
   5 # or (if also matching a pattern in "suspendedTests") "suspended".
   6 # They get also the test-property 'WILL_FAIL', i.e.
   7 # they are reported as failing if the export works without error.
   8 # https://cmake.org/cmake/help/v3.0/prop_test/WILL_FAIL.html
   9
  10 # ======================================================================
  11 Sublabel: todo
  12 # LyX bugs and problems with the sample documents that require attention
  13 # ======================================================================
  14 # * minor issues to explore and properly sort,
  15 # * easyfix issues,
  16 # * LyX bugs to report at trac (move pattern to section "lyxbugs" once done).
  17
  18 # Error in Japanese document if LyX-logo is preceded by foreign language
  19 export/export/latex/ja_wrong_auto_encoding_(dvi|pdf(|3)).*
  20
  21 # Missing characters with Unicode fonts
  22 # (the "hidden" replacement with FreeSerif does not help and results in bad
  23 # typography for mathematical content):
  24 # For details see the file "systemfonts-Math-missingchars.lyx"
  25 export/doc/(|de/|es/|fr/)Math.*systemF
  26 export/export/latex/systemfonts-Math-missingchars.*systemF
  27
  28 # missing character: There is no ^^A in font [lmroman12-regular]
  29 # and all the line down to ^^Z and beyond...
  30 # XeTeX artifact? works with LuaTeX, explore:
  31 export/doc/(|de/|es/|fr/)EmbeddedObjects_pdf4_systemF
  32
  33 # missing character error after a TL 2016 update
  34 # TUenc.def converts \textcompwordmark to ZWNJ which is missing in LM.
  35 # for discussion on how to handle this problem see:
  36 # https://www.mail-archive.com/search?l=mid&q=20170225203955.nas2qopy4l4ukyqq%40steph
  37 export/export/latex/languagenesting2_pdf5_systemF
  38
  39
  40 # Example for lib/scripts/listerrors
  41 # Requires noweb. Seems to be restricted to plain "latex".
  42 # Find out why and whether the script could be improved.
  43 export/examples/listerrors_(pdf[245]).*
  44
  45 # iconv fails, if a nomenclature inset contains an uncodable character
  46 export/export/latex/iconv-error-nomenclature_pdf2
  47
  48 # `acmart` document class:
  49 # (see also lyxbugs below and ignoredTests)
  50 # issues with listsof, reported to the maintainer
  51 # https://www.mail-archive.com/search?l=mid&q=of84gj%24l6b%241%40blaine.gmane.org
  52 # LyX gives the following terminal message:
  53 #
  54 #    TextClass.cpp (1385): The layout does not provide a list command for
  55 #      the float `sidebar'. LyX will not be able to produce a float list.
  56 #
  57 # which makes "check_load" and "lyx2lyx" fail (lyx2lyx for < 2.3 is ignored).
  58 check_load/templates/acmart
  59 export/templates/acmart_lyx23
  60
  61 # Failing LyX2LyX conversions for old versions:
  62 #
  63 # "beamer" lyx2lyx fails sometimes for versions < 2.1
  64 # Back-conversion results in some layouts without name ("\begin_layout \n")
  65 # which trigger a warning message leading to test failure.
  66 export/examples/(|de/|fr/|ja/)beamer_lyx(16|20)
  67 export/templates/.*beamer-conference-ornate-20min_lyx(16|20)
  68 export/examples/beamerlyxexample1_lyx(16|20)
  69 #
  70 # modernCV fails for versions < 2.1
  71 # * reversed order of \end_layout and \end_inset results in corrupt LyX file
  72 # * reversed order of command arguments results in incompilable LaTeX
  73 export/examples/(|es/)modernCV_lyx(16|20)
  74
  75 # Farsi font encoding LAE should be added also to custom font encoding
  76 # (similar to the Greek font encoding LGR).
  77 export/export/latex/fa-OT1_pdf2
  78
  79 # CJK for multilingual documents:
  80 #
  81 # input-encoding "utf8" should work for documents using a CJK language:
  82 #export/export/latex/CJK/.*-en-de-el-ru_utf8_pdf2
  83 #
  84 # but that is not so easy if the main language does not require CJK:
  85 export/export/latex/CJK/en-de-el-ru-.*_utf8_pdf2
  86 #
  87 # some "language default" legacy encodings fail (missing fonts)
  88 export/export/latex/CJK/ko_default_pdf2
  89
  90 # Arabic (see also "texissues")
  91 # "! Extra \else" and missing glyph "no ␣ in font Scheherazade":
  92 export/doc/ar/UserGuide_pdf4_systemF
  93 # the lyx2lyx test also tests compilation after round-trip:
  94 export/doc/ar/UserGuide_lyx(22|23)
  95
  96
  97 # input encoding tests
  98 # --------------------
  99 # Please test and correct!
 100
 101 # Failing for unknown reason
 102 # Hebrew
 103 export/export/latex/unicodesymbols/008-greek-and-coptic-with-textalpha_cp862_pdf2
 104 export/export/latex/unicodesymbols/008-greek-and-coptic_cp862_pdf2
 105 export/export/latex/unicodesymbols/070-72-general-punctuation-sub-super-currency_cp1255_pdf2
 106 export/export/latex/unicodesymbols/070-72-general-punctuation-sub-super-currency_cp862_pdf2
 107 export/export/latex/unicodesymbols/070-72-general-punctuation-sub-super-currency_iso8859-8_pdf2
 108 export/export/latex/unicodesymbols/074-76-letterlike-numberforms-arrows_cp862_pdf2
 109 # Arabic:
 110 export/export/latex/unicodesymbols/005-7-ipa-modifiers-combining_cp1256_pdf2
 111 export/export/latex/unicodesymbols/008-greek-and-coptic-with-textalpha_cp1256_pdf2
 112 export/export/latex/unicodesymbols/069-greek-extended-textalpha_cp1256_pdf2
 113 export/export/latex/unicodesymbols/070-72-general-punctuation-sub-super-currency_cp1256_pdf2
 114 export/export/latex/unicodesymbols/074-76-letterlike-numberforms-arrows_cp1256_pdf2
 115
 116 # pLaTeX
 117 export/export/latex/unicodesymbols/.*_euc-jp-platex_pdf2
 118 export/export/latex/unicodesymbols/.*_jis-platex_pdf2
 119 export/export/latex/unicodesymbols/.*_shift-jis-platex_pdf2
 120 export/export/latex/unicodesymbols/.*_utf8-platex_pdf2
 121
 122
 123 # nonstandard tests failing for unknown reason:
 124 export/examples/aa_sample_(dvi3|pdf[45])_.*
 125 export/templates/obsolete/ACM-siggraph_pdf5_(texF|systemF)
 126 export/templates/IUCr-article_pdf4_systemF
 127 export/templates/RJournal_(dvi3|pdf[45])_systemF
 128 export/templates/aa_(dvi3|pdf[45])_.*
 129 export/templates/kluwer_.*_systemF
 130
 131 # lyx2lyx tests:
 132 # back-conversion fails for rotated float inset in a list
 133 export/export/lyx2lyx/lyx_2_3_test_lyx(16|20|21|22)
 134
 135
 136 # ================================================
 137 Sublabel: lyxbugs
 138 # LyX bugs with a Trac number.
 139 # ================================================
 140
 141 #6197: „amssymb” with Polish babel name clash \lll ("<<<" vs. "ł")
 142 # Wrong output with pdflatex (-> unreliableTests),
 143 # missing character with XeTeX/LuaTeX and Babel (OK with Polyglossia)
 144 export/export/latex/6197-polish-amssymb_pdf._texF
 145
 146 #6463 font encoding changes and combining accents
 147 # problem remains for Cyrillic in a non-Cyrillic-using language
 148 export/export/latex/cyrillic-accent-ascii_pdf2
 149
 150 #9871 LyX sends invalid Unicode to iconv when converting to ASCII
 151 # most probably due to BabelPreamble code (language specific headings for
 152 # theorems, problems , ... are written in the language's default encoding
 153 # if they contain non-ASCII characters)
 154 # Error 84 returned from iconv when converting from UCS-4LE to ascii:
 155 # Invalid or incomplete multibyte or wide character
 156 export/doc/(es|fr)/Additional_pdf4_texF
 157 export/doc/(de|es|fr)/EmbeddedObjects_pdf4_texF
 158 export/doc/es/Customization_pdf4_texF
 159 # see also the discussion at:
 160 # https://www.mail-archive.com/search?l=mid&q=20170228190738.cgs3tl3ny2bxiegk%40steph
 161 export/examples/es/linguistics_pdf4_texF
 162 export/export/latex/bug9871-slovak-ascii-preambleencoding_pdf2
 163
 164 #8035 work around a Polyglossia bug:
 165 # An error is reported if the document font does not announce support for a
 166 # script (Cyrillic, Greek, ...) which Polyglossia thinks is required to
 167 # typeset the document language. This is not required with LyX's check for
 168 # missing characters and results in many false positives:
 169 # a) with fonts including the required characters but
 170 #    not the tag tested by Polyglossia,
 171 # b) if the document language is "Serbian (Latin Script)",
 172 #    the Cyrillic script is not required yet Polyglossia tests for support.
 173 # The document "sr/Braille.lyx" is an example of case b).
 174 # (For some reason, the false positive error is not thrown with PDF (luatex).)
 175 export/examples/sr/Braille_(dvi3|pdf4)_systemF
 176
 177 #10355 xmllint detects failures
 178 export/doc/attic/eu_UserGuide_xhtml
 179 export/doc/(es|ja)/UserGuide_xhtml
 180 export/examples/spreadsheet_xhtml
 181 export/export/WrongDfnTagHandling_xhtml
 182
 183 #10371 Compilation error if longest label marker in labeling style
 184 # contains underscores etc.
 185 export/export/latex/LongestLabelWithUnderscore.*
 186
 187 # Common Unicode fonts don't support all characters supported by
 188 # lib/unicodesymbols. (This shows that there are use cases for 8-bit fonts
 189 # or GUI support for selecting more than one system font.)
 190 export/export/latex/luainputenc-utf8_pdf5_systemF
 191
 192 #11455 "Unable to process argument!" with multiple 1.6.x roundtrips
 193 export/templates/IEEEtran-Journal_lyx16
 194
 195
 196 # ==============================================================
 197 Sublabel: ert
 198 # Export failures due to "raw" LaTeX use in ERT or preamble code
 199 # ==============================================================
 200 #
 201 # "Wontfix" if demonstrating correct use and OK in the default output format.
 202
 203 # Non-ASCII in ERT, fails with inputenc==ASCII (e.g. XeTeX with tex-fonts)
 204 #   Could not find LaTeX command for character 'í' (code point 0xed)
 205 export/doc/(de|es)/Additional_pdf4_texF
 206
 207
 208 # ================================================
 209 Sublabel: texissues
 210 # Export fails due to LaTeX limitations,
 211 # ================================================
 212 #
 213 # e.g. non-ASCII in verbatim or listings, incompatible packages, ...
 214 # "Wontfix" if documents demonstrate correct use in the default output format.
 215
 216 # Non-ASCII char in verbatim environment.
 217 # Fails with ASCII (and hence also with XeTeX).
 218 export/doc/(|de/|es/|fr/)UserGuide_pdf4_texF
 219
 220 # Babel-Russian uses UTF-8 for auto-strings if it detects Xe/LuaTeX.
 221 # This fails unless the inputencoding is set to utf-8, too.
 222 export/doc/ru/(Intro|Tutorial)_(dvi3|pdf[45])_texF
 223 export/examples/ru/(example_lyxified|splash)_(dvi3|pdf[45])_texF
 224
 225 # Babel-Ukrainean uses UTF-8 if it detects Xe/LuaTeX (for "\date").
 226 # * garbled output with LuaTeX + TeX fonts, see unreliableTests.wrong_output,
 227 # * since TL18, see unreliableTests.varying_versions.
 228 # * missing chars with XeTeX + TeX fonts:
 229 #   (workaround: suppressing auto-date or date inset in documents).
 230 export/export/latex/uk-babel-date-missing-chars-with-ascii_pdf4_texF
 231 export/(doc|examples)/uk/(Intro|splash)_pdf4_texF
 232
 233 # Gives the following error:
 234 # # ! Package hpstatement Error: H or P statement "H251"
 235 # # (hpstatement)                is not defined.
 236 # seems to be polyglossia-related (dvi3 worked with babel)
 237 export/examples/H-P-statements_.*_systemF
 238
 239 # These files use packages that are not compatible with the newest LuaTeX. We
 240 # could potentially fix these by loading the luatex85 package early in the
 241 # LyX-generated preamble, but it seems it's better to wait until the packages
 242 # fix the root issue themselves.
 243 # xy package:
 244 .*(|fr/)xy(pic|figure).*pdf5.*
 245
 246 # Problem with Check and Slovak Babel support.
 247 # (reported per mail to Petr Tesa\v{r}\'ik, 2016-09-06)
 248 # All exports using babel fail.
 249 # Without the Czech or Slovak text it compiles
 250 # No problem with inserted German (or other foreign language) text
 251 # No problem if the table is Slovak, too
 252 export/export/latex/TableErrorIfSlovakTextInserted_(dvi|pdf[23]?|.*_texF)
 253
 254 # Polyglossia + LuaTeX issue
 255 # Reported upstream here:
 256 # https://github.com/reutenauer/polyglossia/issues/163
 257 # These tests were broken at 3374b854
 258 # See discussion here:
 259 # https://www.mail-archive.com/search?l=mid&q=1478004223.2367.5.camel%40lyx.org
 260 export/doc/(sk|nb)/Intro_(dvi3|pdf5)_systemF
 261
 262 # fontspec errors with `slides` class:
 263 # LaTeX error: "kernel/command-already-defined"
 264 # Lines 2684 ... 2690 in fontspec-xetex.sty
 265 # Lines 2608 ... 2614 in fontspec-luatex.sty
 266 export/templates/slides_.*_systemF
 267
 268 # Beamer: conflicts with some combinations of packages/settings/languages
 269 export/templates/ja_beamer-conference-ornate-20min_(pdf2|pdf[45]).*
 270 export/templates/es_beamer-conference-ornate-20min_pdf4_texF
 271
 272 # Arabic
 273 #
 274 # Larger Arabic documents currently have non-tex-fonts and XeTeX as default
 275 # output. To fix pdfTeX export:
 276 # - set all non-Arab text parts to a different language (e.g. English)
 277 # - define alternatives for hyperref (e.g. with textorpdfstring)
 278 #   for correct handling of hyperref.
 279 # - solve problem with ToC:
 280 #      ! This can't happen (copying).
 281 #      \AtBegShi@Output ...ipout \box \AtBeginShipoutBox
 282 #                                                        \fi \fi
 283 #      l.62 \tableofcontents
 284 #                           {}
 285 #      I'm broken. Please show this to someone who can fix can fix
 286 #
 287 # see discussion at https://www.mail-archive.com/search?l=mid&q=20161114035123.s5lt4ib4x4obtptp%40steph
 288 #
 289 # Babel-Arabic loads "inputenc" which fails with Xe/LuaTeX:
 290 export/.*/ar/.*_texF
 291 # Polyglossia problem with LuaTeX (see also Hebrew and Farsi):
 292 # Undefined control sequences "\luatexpardir" and "\luatextextdir".
 293 export/.*/ar/.*(dvi3|pdf5)_systemF
 294
 295 # Farsi
 296 # Polyglossia problem with LuaTeX (undefined command) (cf. Arabic)
 297 # https://github.com/reutenauer/polyglossia/commit/ccb0e9e2c6411170ad779b05ff5076f1193cc323
 298 export/examples/fa/splash_(dvi3|pdf5)_systemF
 299 # Missing characters (em space and "English" quotes) with XeTeX + system fonts.
 300 export/examples/fa/splash_pdf4_systemF
 301 # missing ASCII replacements (required by XeTeX + TeX fonts)
 302 export/examples/fa/splash_pdf4_texF
 303 # "invalid utf-8 sequence" with Babel-Farsi, LuaTeX, and TeX fonts.
 304 export/examples/fa/splash_(dvi3|pdf5)_texF
 305
 306 # Hebrew
 307 # does not currently work with LuaTeX
 308 export/.*/he/.*(dvi3|pdf5)_systemF
 309 # ... nor with XeTeX and 8-bit TeX fonts (missing ASCII replacements)
 310 export/.*/he/.*pdf4_texF
 311
 312
 313 # CJKutf8 does not work with XeTeX and LuaTeX (and 8-bit fonts)
 314 export/examples/ja/multilingual_.*_texF
 315 export/export/latex/CJK/zh_CN-toc_.*_texF
 316
 317
 318 # ================================================
 319 Sublabel: externalissues
 320 # Export fails due to non-LaTeX external tool,
 321 # ================================================
 322 #
 323 # e.g. a bug or missing feature in ps2pdf
 324
 325 # ps2pdf gives the following and exits with error:
 326 # Error: /invalidfileaccess in --file--
 327 # ps2pdf succeeds if the -dNOSAFER flag is used. For discussion, see:
 328 # https://www.mail-archive.com/search?l=mid&q=1506851183.3130.15.camel%40lyx.org
 329 export/examples/ja/lilypond_pdf
 330
 331
 332 # ======================================================================
 333 Sublabel: attic
 334 # Documents in the attic, kept for reference and format conversion test.
 335 # However, many problems here are "wontfix".
 336 # ======================================================================
 337
 338 # Fails because of missing .png graphic files.
 339 # They were replaced by .svgz, but, as this file is in the attic, we do not
 340 # convert to new lyx format. Plain latex and xetex create output (ignoring
 341 # missing files) while (pdf|lua)latex exits with != 0
 342 #export/doc/attic/eu_UserGuide_pdf[25].*
 343
 344 # Files in the attic with non-default output
 345 # (i.e. could be ERT, package incompatiblity, ...)
 346 export/doc/attic/it_(UserGuide_dvi3|UserGuide_pdf4)_systemF
 347 export/doc/attic/sk_UserGuide_pdf4_texF
 348 export/doc/attic/id_UserGuide_.*systemF